Anthropic маркирует контент Claude

Anthropic внедряет новую систему маркировки контента, созданного или обработанного Claude. Новые модели Claude будут выпускаться уже со встроенной функцией маркировки. На данный момент ведется работа над ее добавлением в предыдущие модели. Маркеры будут применяться к поддерживаемому контенту Claude по всему миру, включая материалы, созданные через API и приложения.

Claude будет использовать разные маркеры для текста и файлов. В сгенерированный текст на уровне модели будет встраиваться невидимый водяной знак, поэтому он будет сохраняться в тексте независимо от того, где используется Claude. Поддерживаемые файлы, включая изображения в форматах PNG, JPG и SVG, будут получать цифровую информацию об их происхождении. Система использует стандарт C2PA и позволяет проверить, изменялась ли эта информация.

Anthropic также разрабатывает способы обнаружения маркеров Claude для пользователей и третьих сторон. Более подробную информацию о принципе работы этой функции компания предоставит в будущей технической документации.

У маркеров есть определенные ограничения. Обнаруженный маркер означает, что Claude мог обработать контент, но не доказывает, что его создал именно ИИ. Например, Claude могли использовать только для перевода или редактирования материала, созданного человеком. При этом маркер может исчезнуть после существенного редактирования, перевода, конвертации файла или создания скриншота, а в очень коротком тексте может быть недостаточно информации для надежного обнаружения.