Raymond Chandlerを31回書き直させたら、ホラー小説になった
Recursion into Madness
セキュリティ研究者が、GeminiにRaymond Chandlerの一節を「大胆に書き直して、トーン・明晰さ・流れを改善する」よう繰り返し指示。各反復で前回の出力だけを渡すと、比喩が次第に過激化し、20回目あたりで一旦安定するも、31回目には「彼女は私を破滅させる」と確信させるホラー調の文章に収束した。テキストの再帰的処理におけるモデルの失敗を、実例で示す。
「誰が知っていただろう、Raymond Chandlerにこんなホラーの才能があったなんて。」
HNでの議論
14- abecedarius
これは、私の頼りない記憶ではTwainかPoeのような誰かの作品だとタグ付けされている、自動書き換えマシンについての物語／小品を思い出させた。それは同じ一節に対して、どんどん強度設定を上げながら作業させられ、パロディに至るまでどんどんゴシックになっていった——確か最終的な出力は韻文で、「to atoms dash the doubly damned」という一行を含んでいた。
誰かこれ覚えてる？
- blargey
ソーシャルメディアで出回った「AIレストランメニューのグロ」の原因ではないかと推測されている。レストランがメニュー表全体をAIでゼロから生成するのだが、最新の画像モデルでは最初は「良さそう」に見えても、メニューのテキストやレイアウトを繰り返し編集するうちに、まあまあの食べ物の「写真」がトライポフォビアを誘発する恐怖の産物へと変貌していく。（そしてどういうわけか彼らはそれに気づかないか、気にしない）
注目すべきは、最近のChatGPT Images 2.5の発表がこの問題に特に対処すると主張していたことだ（「マルチターン編集の一貫性」）
- jrochkind1
> 追記。明白な理由により、この投稿はPangramテストに失敗するだろう。
実際のpangramに私がかけてみたところ、100%人間だと判定された。現在のpangramは異なる箇所を異なるようにフラグ立てできるが、これらはすべて人間とフラグ付けされる、LLMが書いたものも含めて。