OpenAI внедряет невидимые водяные знаки в текст ChatGPT для соблюдения законов ЕС

Our approach to EU text provenance rules

OpenAI представила textGrain — технологию невидимой маркировки текста, созданного моделями. В ответ на EU AI Act компания добавляет водяные знаки в вывод ChatGPT и Codex в Евросоюзе, а API-клиенты по всему миру могут включить их опционально. Детектор водяных знаков пока доступен только исследователям, так как технология имеет ограничения: короткие или отредактированные тексты распознаются хуже. Водяной знак не определяет авторство, не проверяет достоверность и не идентифицирует пользователя.

Даже высокая производительность в идеальных условиях не гарантирует надёжное обнаружение в повседневном использовании.
  1. socketcluster

    Этот подход кажется неправильным. В случае с кодом уже очевидно, что Claude добавляет водяные знаки через комментарии, потому что они слишком длинные. Я постоянно прошу Claude удалить и сократить его комментарии.

    Кроме того, я не думаю, что это полезно, потому что участие ИИ в работе — это спектр, а не бинарное истина или ложь. Если я прошу Claude просмотреть мой код, исправить опечатки и прибраться, и он начинает добавлять комментарии со скрытыми водяными знаками везде, где вносит малейшую правку, это по сути присвоение моего кода. Его вклад может быть тривиальным и поверхностным.

    Когда я использую ИИ в своих проектах, сгенерированный им код по сути выглядит для меня как автодополнение; именно то, что я написал бы вручную. Так что я не понимаю, почему его нужно помечать как ИИ. Он просто экономит мне время. Это в значительной степени моя собственная работа.

  2. LudwigNagasena

    Очевидно, что такие тупые методы не работают. Так что дальше? Сначала нужно разобраться с базовой заменой слов, что кажется теоретически осуществимым. Затем нужно разобраться с такими кодировками, как шифр Цезаря, замена пробелов на пробелы нулевой ширины, Base64 и т.д. Ваш аккаунт будет помечен и о нём сообщат за вывод обфусцированного текста. Что дальше? Ой, вы вывели слишком много команд vim вместо прямого вывода текста, ваш аккаунт помечен и о нём сообщили в Европол. Думаете, вы сможете обойти это с помощью Deepseek? Нет, его запретят вместе с VPN.

  3. Aerroon

    Можно ли теоретически использовать эту технику для отслеживания самих пользователей? Было бы довольно иронично, если бы ЕС заставил технологические компании внедрить дополнительное отслеживание, не так ли?

  4. mgax

    Это такая пустая трата времени.

    Если кто-то захочет обойти это, будет довольно просто. Просто измените слова. Если кто-то захочет избежать фингерпринтинга, он это сделает.

    Может, мы просто сосредоточимся на созидании, вместо того чтобы тратить мозговые усилия на эти нелепые побочные квесты?

  5. m-hodges

    > Начиная с сегодняшнего дня, клиенты API по всему миру смогут включить водяные знаки для текста для отдельных моделей. Водяные знаки для текста по умолчанию останутся отключены в API.

    > В течение следующих нескольких недель мы добавим невидимый водяной знак в подходящий для этого текстовый вывод ChatGPT и Codex в Европейском союзе.

Ещё за этот день

2026-10-05