イラン、ChatGPTで偽記事を米国メディアに掲載
Iranian campaign planted fake articles in real U.S. publications using ChatGPT
OpenAIによると、イラン政府と関連するキャンペーンがChatGPTを使い、少なくとも20の米国報道機関に約100本の偽記事を掲載した。偽の記者名義で戦争批判などの意見記事を流し、大手メディアにも転載された。AI生成コンテンツによる情報操作の新たな手口として注目される。
「この法案は戦闘そのものを超えてアメリカ人に影響を及ぼすだろう」と、フロリダ州の小さな週刊紙Port St. Joe Starの意見記事は先月、イラン戦争について警告した。
HNでの議論
159- chvid
「しかしChatGPTの開発元OpenAIは木曜日、Hoskinsのと称される作品はイランに拠点を置くユーザーによって、『影響工作』の一環として同社のチャットボットを使って生成されたものだと述べた。」
ソックパペットアカウントや偽の意見記事は目新しいものではない。
新しいのは、超中央集権的な「ツール」であり、文章作成を代行するだけでなく、すべてを記録し、評価し、当局や報道機関に都合よく報告する。
- OgsyedIE
セルフホスティングの選択肢が多数あることを考えれば、地球上のあらゆる政府が程度の差こそあれ同じことをしているという状況でないと信じる理由はない。
おそらく本当の問題は、ずさんな検証をあまりにも受け入れすぎていることだ。
- xbar
これが正確性の向上になるようなメディアが一つ思い浮かぶ。
- thih9
ようやく「ChatGPTが何かをした」と言わず、運営者にスポットライトを当てた記事が出た。
他のニュースでもこの表現を使い続けられないだろうか？ 無理なら、一貫性のためにここでもChatGPTが偽記事を掲載したと言うべきだろうか？
- card_zero
ジャーナリズムの仕組みについて無知だったようだ。磨き上げられたように見える意見記事を書いて、無名の媒体に送れば、それがニュースサイトや新聞に転送されるのか？ 報酬はもらえるのか？ それとも無料で提供するのが普通で、怪しまれないのか？
- delichon
私はどんな議論でも最も強い形で代弁できるLLMの方が好みだ。全体として、悪と向き合う方が無視するより効果的だと思う。その目的のためには、こうした植え付け記事はむしろ利点だ。イラン政府の敵としてそう言っている。
- BeetleB
これについては多くの異なる（妥当な）意見があるだろう。
言えるのは、これがオープンウェイトモデルの必要性を浮き彫りにしているということだけだ。
> OpenAIは、このキャンペーンの背後にあるアカウントを禁止したと述べた
OpenAIが行為者に関係なく常にこうした活動を禁止すると分かっていれば嬉しい。だが、それは分からない。
- tastyfreeze
すべてのニュースは非常に長い間、スパイ機関の道具だった。CIAの公式なOperation Mockingbirdは40年代後半に始まった。今やAIが関与しているからニュースなのか？ どれも信用できない。