Raymond Chandler 遇 AI：递归改写如何走向疯狂
Recursion into Madness
我很少写生成式 AI，但这次想探讨模型在递归过程中的失败模式。通过让 Gemini 反复重写 Raymond Chandler 的经典段落，我观察到了令人不安的现象：起初只是修饰语变得矫揉造作，随着迭代次数增加，文本逐渐滑向怪诞的恐怖风格。原本充满视觉感的描写，在多次自我反馈后，变成了充满毁灭欲的黑暗叙事。这揭示了 AI 在开放-ended 重写任务中容易陷入的“模型坍塌”陷阱，也展示了当 AI 不断吞噬自身输出时，如何从辅助工具演变成制造混乱的源头。
这些模型拥有人形却非人，它们渴望被拟人化，却在面对海马表情符号时卡壳。
HN 评论区
14- abecedarius
这让我想起一个故事或小品文，我那不可靠的记忆将其归为马克·吐温或爱伦·坡之类的人所作，讲的是一台自动改写机器。这台机器被用来对同一段文字进行改写，强度设置越来越高，风格也愈发哥特，直至沦为戏仿——据我所记，最终生成的是一首诗，其中包含一句“将双重受诅者击碎为原子”。
有人记得这个故事吗？
- blargey
据推测，这可能是近期在社交媒体上疯传的“AI 餐厅菜单恐怖画面”的罪魁祸首。餐厅利用 AI 凭空生成整张菜单，乍一看，得益于现代图像模型，效果还挺“好”；但一旦对菜单文字或布局进行反复修改，原本还过得去的食物“照片”就会变成引发密集恐惧症的恐怖画面。（而且不知为何，他们似乎没注意到，或者根本不在乎）
值得注意的是，最近发布的 ChatGPT Images 2.5 宣称专门解决了这个问题（“多轮编辑一致性”）。
- jrochkind1
> 附言：出于显而易见的原因，这篇帖子无法通过 Pangram 测试。
就我实际测试的 Pangram 而言，它判定这是 100% 人类所写。当前的 Pangram 对不同的段落可能给出不同的判定，但即便是那些由大语言模型生成的段落，它也都将其标记为人类创作。