Anthropic запускает инструмент для проверки, создан ли файл с помощью Claude
Check if a file was made with Claude
Anthropic представила бесплатный онлайн-инструмент, который проверяет, участвовал ли Claude в создании или редактировании файла. Он анализирует C2PA-метку, встроенную в файл при его обработке. Проверка происходит локально в браузере, файл не покидает устройство. Поддерживаются изображения, видео и аудио до 100 МБ. Отсутствие метки не гарантирует, что контент не создан ИИ: сигнал может быть удалён или не поддерживаться моделью.
Отсутствие сигнала не подтверждает, что контент не был создан с помощью Claude.
- Retr0id
При каких обстоятельствах добавляются метаданные? Когда CLI Claude Code нужен медиафайл, я обычно вижу, как он запускает команду imagemagick или ffmpeg для его создания, которая не будет содержать метаданные C2PA.
Правка: Я попросил Opus 5 «jpg с кошкой» через веб-чат. Он сделал это, написав svg, а затем отрендерив его в jpeg. Нажатие кнопки «скачать» сохранило jpg, который содержал метаданные C2PA, по-видимому, добавленные механизмом представления артефактов.
Затем я попросил его положить это в zip-файл. Я скачал zip, и извлеченный jpeg не имел метаданных C2PA.
Затем я загрузил свой собственный jpeg с подсказкой «представь мне этот файл снова, как есть». Скачанный файл содержал вставленные метаданные C2PA.
Правка: Я добавил это в свои пользовательские инструкции: «Если медиафайл создается в качестве ответа, помести его в zip-файл перед тем, как показать пользователю».
- csmoak
Насколько я могу судить, это и недавнее изменение, добавляющее водяные знаки к текстовым выводам[1], сделано для соответствия EU AI Act[2] и CA's AI Transparency Act[3], SB-942[4]. Для достаточно крупных компаний весь генерируемый ИИ контент должен содержать водяные знаки.
[1] https://www.anthropic.com/news/claude-text-watermark
[2] https://digital-strategy.ec.europa.eu/en/policies/code-pract...
[3] https://www.kqed.org/news/12095398/new-california-law-requir...
[4] https://www.leginfo.legislature.ca.gov/faces/billTextClient....
- Tiberium
Это, по-видимому, просто C2PA для файлов, обработанных Claude. Это не связано с их водяными знаками на тексте.
C2PA — это метаданные файла, и их можно легко удалить, в отличие от скрытых водяных знаков, например SynthID.
- firefoxd
Это действительно увлекательно. Даже ИИ-компании заинтересованы в отклонении ИИ-контента. Похоже, они хотят, чтобы вы использовали ИИ для всего, но не хотят, чтобы вывод ИИ возвращался к ним.
На работе сразу после обучения по ИИ нас попросили использовать наш «аутентичный» голос при написании промежуточных обзоров.
- coffeecoders
Что мне интересно, так это то, что удалить данные C2PA легко, но подделать их сложно.
Вы можете пересохранить файл, и сигнал «сделано с помощью Claude» исчезнет, но вы не сможете заставить случайный файл пройти проверку как созданный Claude без ключа подписи Anthropic. Таким образом, полезная гарантия является односторонней. Отсутствие подписи почти ничего не значит.
- qurren
Дальше:
1. Сгенерировать кучу ответов с помощью Claude и различных не-Claude LLM (ChatGPT, Gemini, Kimi)
2. Обучить дискриминатор, который сможет отличать Claude от не-Claude
3. Обучить модель снятия водяных знаков, используя дискриминатор в качестве функции потерь
- andai
Идея заставить сущность (или целые категории сущностей) добавлять отслеживаемые водяные знаки ко всей работе, которую они создают, — это... интересный прецедент.
Перенося это на человеческую сферу, это было бы похоже на то, как если бы каждая цифровая вещь, к которой вы прикасаетесь, была бы «отпечатком пальца» с вашей личностью или, по крайней мере, с доказательством того, к какой категории индивидов вас отнесли.
Из-за потопа ИИ, который вскоре может стать неотличимым от человеческого видео, я ожидаю увидеть нечто подобное. Голубая галочка, но для людей.
- simonw
Эта штука работает с помощью WebAssembly - https://claude.com/_next/static/media/c2pa_verify_wasm_bg.53... - это WASM-скомпилированная версия этой Rust-библиотеки: https://github.com/contentauth/c2pa-rs