OpenAI внедряет невидимые водяные знаки в текст ChatGPT для соблюдения законов ЕС
Our approach to EU text provenance rules
OpenAI представила textGrain — технологию невидимой маркировки текста, созданного моделями. В ответ на EU AI Act компания добавляет водяные знаки в вывод ChatGPT и Codex в Евросоюзе, а API-клиенты по всему миру могут включить их опционально. Детектор водяных знаков пока доступен только исследователям, так как технология имеет ограничения: короткие или отредактированные тексты распознаются хуже. Водяной знак не определяет авторство, не проверяет достоверность и не идентифицирует пользователя.
Даже высокая производительность в идеальных условиях не гарантирует надёжное обнаружение в повседневном использовании.