Anthropic маркує контент Claude

Anthropic впроваджує нову систему маркування контенту, створеного або опрацьованого Claude. Нові моделі Claude випускатимуться вже з функцією маркування. Наразі ведеться робота над її додаванням до старіших моделей. Маркери застосовуватимуться до підтримуваного контенту Claude по всьому світу, зокрема до матеріалів, створених через API та застосунки.

Claude використовуватиме різні маркери для тексту та файлів. Невидимий водяний знак вбудовуватиметься у згенерований текст на рівні моделі, тому він залишатиметься в тексті незалежно від того, де використовується Claude. Підтримувані файли, зокрема зображення PNG, JPG і SVG, отримуватимуть підписану інформацію про їхнє походження. Система використовує стандарт C2PA та допомагає перевірити, чи змінювалася ця інформація.

Anthropic також заявляє про розробку способів виявлення маркерів Claude для користувачів і третіх сторін. Детальнішу інформацію про принцип роботи цієї функції компанія надасть у майбутній технічній документації.

Маркери мають певні обмеження. Виявлений маркер означає, що Claude міг опрацьовувати контент, але не доводить, що його створив саме ШІ. Наприклад, Claude могли використовувати лише для перекладу або редагування матеріалу, створеного людиною. Водночас маркер може зникнути після значного редагування, перекладу, конвертації файлу або створення скриншота, а дуже короткий текст може не містити достатньо інформації для надійного виявлення.