Иранская кампания публиковала фейковые статьи в американских СМИ через ChatGPT
Iranian campaign planted fake articles in real U.S. publications using ChatGPT
OpenAI сообщила, что около 100 сгенерированных ИИ статей были размещены как минимум в 20 новостных изданиях, включая Daily Kos и Middle East Monitor. Материалы выходили под вымышленным авторством и критиковали войну с Ираном, распространяясь через реальные публикации.
«Закон будет преследовать американцев и после окончания самих боёв», — предупреждала колонка в Port St. Joe Star, крошечной еженедельной газете во Флориде, посвящённая войне с Ираном в прошлом месяце.
- chvid
«Но создатель ChatGPT, OpenAI, заявил в четверг, что предполагаемая работа Хоскинса была сгенерирована с помощью их чат-бота пользователями из Ирана в рамках „кампании влияния“».
Подставные аккаунты и фальшивые мнения — это не новость.
Новое здесь — это сверхцентрализованный «инструмент», который, помимо того что пишет за тебя, ещё и логирует всё, оценивает это и доносит властям и новостным изданиям, как сочтёт нужным.
- OgsyedIE
Учитывая множество вариантов самостоятельного хостинга, нет причин полагать, что каждое правительство на Земле не занимается этим в той или иной степени.
Возможно, настоящая проблема в слишком большой терпимости к халтурной проверке.
- xbar
Могу вспомнить одно медиа, для которого это было бы улучшением точности.
- thih9
Наконец-то статья, которая не говорит «ChatGPT сделал что-то», а переводит прожектор на операторов.
Можем ли мы сохранить эту формулировку для других новостей? Если нет, можем ли мы тогда здесь, для последовательности, сказать, что ChatGPT разместил фейковые статьи?
- card_zero
Похоже, я невежественен в том, как работает журналистика: можно просто написать гладко выглядящую колонку и отправить её в малоизвестные издания, которые передают её новостным сайтам и газетам? Тебе за это платят? Или если ты предлагаешь её бесплатно, это нормально и не подозрительно?
- delichon
Я предпочитаю LLM, который может steelman любой аргумент. В целом я считаю, что взаимодействовать со злом эффективнее, чем игнорировать его. Для этой цели эти подброшенные статьи — это фича. Говорю это как враг правительства Ирана.
- BeetleB
Уверен, что по этому поводу есть много разных (обоснованных) мнений.
Всё, что могу сказать: это подчёркивает необходимость моделей с открытыми весами.
> OpenAI заявила, что заблокировала аккаунты, стоящие за кампанией
Если бы мы знали, что OpenAI всегда будет блокировать такую активность независимо от действующего лица, я был бы рад. Я этого не знаю.
- tastyfreeze
Все новости уже очень долгое время являются инструментом спецслужб. Официальная операция ЦРУ Mockingbird началась в конце 40-х. Теперь, когда замешан ИИ, это новости? Ни одному из них нельзя доверять.