Raymond Chandlerを31回書き直させたら、ホラー小説になった
Recursion into Madness
セキュリティ研究者が、GeminiにRaymond Chandlerの一節を「大胆に書き直して、トーン・明晰さ・流れを改善する」よう繰り返し指示。各反復で前回の出力だけを渡すと、比喩が次第に過激化し、20回目あたりで一旦安定するも、31回目には「彼女は私を破滅させる」と確信させるホラー調の文章に収束した。テキストの再帰的処理におけるモデルの失敗を、実例で示す。
「誰が知っていただろう、Raymond Chandlerにこんなホラーの才能があったなんて。」
HNでの議論
31- blargey
ソーシャルメディアで話題になった「AIレストランメニューのグロ画像」の原因ではないかと推測されている。レストランがメニュー表全体をAIでゼロから生成し、最新の画像モデルでは最初は「良さそう」に見えるものの、メニューのテキストやレイアウトを繰り返し編集するうちに、まあまあだった料理の「写真」がトライポフォビアを誘発するような恐怖画像に変貌してしまう。（そしてどういうわけか、それに気づかないか気にしない）
特に、最近のChatGPT Images 2.5の発表では、この問題に特に対処したと主張していた（「マルチターン編集の一貫性」）
- GPerson
すべての知識をAIを使って何度も何度も書き直す社会では、同じ効果が起こるのだろうか？
- abecedarius
これは、私の不確かな記憶ではTwainやPoeのような誰かによる短編/小品を思い出させた。自動書き換え機についての話で、同じ文章に対してどんどん高い強度設定で作動させると、パロディに近いほどゴシックになっていった――確か最終的な出力は韻文で、「to atoms dash the doubly damned」という一行を含んでいた。
誰か覚えている人はいる？
- aetherspawn
でもそんなに悪くないよ。もっとひどいのを予想してた。Robin Hobbsが書いたなら、ほとんど眉をひそめもしないだろうね。
- Muromec
単に安定するだけでなく、ほとんど自分自身に収束するんだよ