PhysicsForumsにLLMが書き込んだ11万件の偽投稿、データベース改ざんの実態
PhysicsForums and the Dead Internet Theory (2025)
2001年創設の老舗科学フォーラムPhysicsForumsで、2019年以降に約11万5千件の投稿がLLMによって生成され、過去の日付を偽装してデータベースに直接挿入されていたことが判明した。少なくとも110人の実在ユーザーのアカウントが「復活」させられ、本人が関与しない意見が名前付きで残されている。URLを変えずに運営されてきた歴史が、かえって改ざんの痕跡を浮き彫りにした。
問題は、彼らがそのことを知らないという点だ。私たちはこれらの人々の大半が誰なのかも分からず、連絡を取ることもできない。
- Aurornis
AIを使って投稿活動を偽装するのは悪いことだ。
本物のメンバーアカウントを使って偽のAIコンテンツを投稿するのは、さらにずっと悪い。
偽の投稿を生成しておきながら、それを実在のユーザーに割り当てるのが良いアイデアだと思った思考プロセスがまったく想像できない。偽の投稿をするなら、ユーザーも偽物にすればよかったのに？ 一つの悪い決断を、はるかに悪い決断に変えてしまった。
インターネットの片隅で誇りに思っていた自分の場所が人気を失っていくのを見るのは悲しいだろうが、この行動はそこにあったポジティブな歴史的雰囲気をすべて燃やし尽くしてしまった。
- joe_the_user
「死んだインターネット理論」は悲しすぎるし、安直すぎる。私は「死んだ社会理論」を提案したい。2000年代後半から2010年代後半にかけてのインターネットの歴史は、人々をオンラインでコミュニケーションする可能性について社会的に怖がらせ、偏執的にし、怒らせ、絶望させた。
つまり、インターネットは検出不可能な、あるいは検出可能な偽投稿で埋め尽くされなくても「死んで」いることはあり得るということだ。偽投稿が状況を助けるわけではないとしても。
- Schlagbohrer
では、これらすべてのハッキングされたアカウントや日付を遡った投稿は、どうやって起きたのか？ 著者がサイトの創設者や管理者と話しているにもかかわらず、記事は決してそれについて語っていない。