ChatGPT подделывает подписи настоящих карикатуристов The New Yorker
ChatGPT is adding real cartoonists' signatures to fake New Yorker cartoons

ChatGPT генерирует карикатуры в стиле The New Yorker и ставит на них подписи реальных художников — Брендана Лопера, Эмили Флейк и других. Пострадавшие называют это нарушением личности и ложной атрибуцией. OpenAI заявляет, что ценит сообщения о багах, но подписи по-прежнему появляются. Юристы видят здесь возможный иск о праве на публичность.
«Я не собственник, но моё имя — это моё имя. Это ощущалось как посягательство на мою личность».
- Insimwytim
Проблема не в том, что ChatGPT это делает, а в том, что его после этого не засудили до полного забвения.
- MarkusQ
Плагиат как услуга.
Мы все можем изо всех сил делать вид, что это не бизнес-модель, но это абсолютно точно бизнес-модель.
- MiroslavPokorny
Мы живём в запутанные времена.
Украдёшь один mp3 — можешь получить штраф в тысячи, украдёшь книгу из местного магазина — полиция придёт к тебе с визитом. Подделаешь подпись — тоже будут проблемы. Взломаешь правительственный сайт — придётся отвечать на вопросы.
Укради все книги в мире, подделай миллионы — и вот эта история начинает рассказываться, и ничего не происходит.
- rwmj
Практический шаг: карикатуристам следует зарегистрировать своё имя/подпись как товарный знак. Возможно, им стоило делать это ещё до появления ИИ, но сейчас определённо стоит. Регистрация упрощает правоприменение.
- Isamu
Та часть ИИ, которая генерирует этот микс, на самом деле не понимает, что означает подпись или как её можно интерпретировать, — это просто визуальная часть карикатуры из New Yorker. В других местах ChatGPT полно информации о подписях, о том, что они значат, и о том, что такое плагиат.
Он устроен не как человеческий мозг, и не должно удивлять, что возникают необычные результаты. Они приближают человеческий интеллект с другой стороны. Интересно наблюдать за улучшениями в таких областях, где требуется самоанализ, который пока не до конца подключён.
[ред.] Стоит добавить, что человек, создающий карикатуру для New Yorker, действует крайне итеративно и рефлексивно. Нынешний генеративный ИИ предназначен для того, чтобы выдать результат, а итерации и самоанализ вы можете делать сами.
- gwern
Это была постоянная проблема с моими собственными сгенерированными комиксами и в Nano Banana Pro, и в ChatGPT (во всех генерациях). Мне часто приходится вносить дополнительную правку, чтобы стереть фальшивую подпись. Это раздражает, и я не удивлён, что большинство пользователей не утруждают себя.
- jameson
Я уверен, что если бы я нарисовал карикатуру и использовал подпись, которая выглядит точно как у настоящего карикатуриста, меня бы засудили и привлекли к ответственности за ущерб.
То же самое должно применяться к поставщикам LLM.
- dormento
Машина для отмывания авторских прав снова в деле.
- WD-42
Инженерный менеджер в моей компании прикрепил комикс в конце нашей демонстрации спринта, подписанный bloper. Только он был совсем не смешной и какой-то странный. Я спросил его, и точно — это был ChatGPT, а подписи он не заметил.
- ThrowawayR2
Отлично. Это разносит в пух и прах тезисы промоутеров LLM: «LLM умеют рассуждать» (но недостаточно, чтобы избежать такой базовой ошибки) и «люди тоже ошибаются» (но не так).