GoogleのAIが「私が億万長者になった」と信じ込んだ顛末
I Accidentally Became a Millionaire
セキュリティ研究者のLyra Rebane氏は、Chromiumのバグ報告で誤って編集権限を与えられたことを利用し、報奨金欄を133万3337ドルに書き換えて冗談でXに投稿した。するとAI生成のニュース記事やGoogleのAI Overviewがそれを事実として拾い上げ、「Chrome史上最高額の報奨金を得た研究者」という虚偽が検索結果に定着。プラットフォームとAI依存がいかに偽情報を増幅するかを示す実例となった。
私の小さな悪戯は、GoogleのAIが信じ込み、Chromeの最高報奨金を検索するすべての人に見せる物語へと変わってしまった。
HNでの議論
12- netsharc
女優（たぶんジェニファー・ローレンス）が英国のグレアム・ノートンのトーク番組で逸話を語ったんだ。英国時間の午後10時ごろ、ライブで観ていた。もっと詳しく知りたくなって、その話についてググり始めた。結果はゼロだった。
でも、エピソードが終わるとすぐに、検索結果が出てきた！ でもそれらは全部、たった今終わったばかりのエピソードを参照している「ニュース」サイトだった。「ニュース」を引用符で囲んだのは、どれもボットが書いたように感じられたからだ（これはLLM以前の話）。僕にとっては、スロップの速さについてのシュールな体験だった…