OpenAI внедряет невидимые водяные знаки в текст ChatGPT для соблюдения законов ЕС
Our approach to EU text provenance rules
OpenAI представила textGrain — технологию невидимой маркировки текста, созданного моделями. В ответ на EU AI Act компания добавляет водяные знаки в вывод ChatGPT и Codex в Евросоюзе, а API-клиенты по всему миру могут включить их опционально. Детектор водяных знаков пока доступен только исследователям, так как технология имеет ограничения: короткие или отредактированные тексты распознаются хуже. Водяной знак не определяет авторство, не проверяет достоверность и не идентифицирует пользователя.
Даже высокая производительность в идеальных условиях не гарантирует надёжное обнаружение в повседневном использовании.
- socketcluster
Этот подход кажется неправильным. В случае с кодом уже очевидно, что Claude добавляет водяные знаки через комментарии, потому что они слишком длинные. Я постоянно прошу Claude удалить и сократить его комментарии.
Кроме того, я не думаю, что это полезно, потому что участие ИИ в работе — это спектр, а не бинарное истина или ложь. Если я прошу Claude просмотреть мой код, исправить опечатки и прибраться, и он начинает добавлять комментарии со скрытыми водяными знаками везде, где вносит малейшую правку, это по сути присвоение моего кода. Его вклад может быть тривиальным и поверхностным.
Когда я использую ИИ в своих проектах, сгенерированный им код по сути выглядит для меня как автодополнение; именно то, что я написал бы вручную. Так что я не понимаю, почему его нужно помечать как ИИ. Он просто экономит мне время. Это в значительной степени моя собственная работа.
- LudwigNagasena
Очевидно, что такие тупые методы не работают. Так что дальше? Сначала нужно разобраться с базовой заменой слов, что кажется теоретически осуществимым. Затем нужно разобраться с такими кодировками, как шифр Цезаря, замена пробелов на пробелы нулевой ширины, Base64 и т.д. Ваш аккаунт будет помечен и о нём сообщат за вывод обфусцированного текста. Что дальше? Ой, вы вывели слишком много команд vim вместо прямого вывода текста, ваш аккаунт помечен и о нём сообщили в Европол. Думаете, вы сможете обойти это с помощью Deepseek? Нет, его запретят вместе с VPN.
- Aerroon
Можно ли теоретически использовать эту технику для отслеживания самих пользователей? Было бы довольно иронично, если бы ЕС заставил технологические компании внедрить дополнительное отслеживание, не так ли?
- mgax
Это такая пустая трата времени.
Если кто-то захочет обойти это, будет довольно просто. Просто измените слова. Если кто-то захочет избежать фингерпринтинга, он это сделает.
Может, мы просто сосредоточимся на созидании, вместо того чтобы тратить мозговые усилия на эти нелепые побочные квесты?
- m-hodges
> Начиная с сегодняшнего дня, клиенты API по всему миру смогут включить водяные знаки для текста для отдельных моделей. Водяные знаки для текста по умолчанию останутся отключены в API.
> В течение следующих нескольких недель мы добавим невидимый водяной знак в подходящий для этого текстовый вывод ChatGPT и Codex в Европейском союзе.