AI 递归自改进：比预期慢得多
AI recursive self-improvement might not come so quickly after all (August 2026)
业界曾预测 AI 将迅速实现递归自改进，无需人类监督即可自我迭代。然而，一项由 Princeton University 的 Peter Kirgis 和 Sayash Kapoor 领导的新研究揭示了残酷现实：AI 代理虽然能胜任工程任务，却缺乏进行开放式研究所必需的判断力与创造力。在针对 NeurIPS 2026 未发表论文的“影子评估”中，Anthropic 的 Claude Opus 4.8 生成的论文因实验设计怪异、缺乏原创贡献而被拒。这表明，尽管 AI 在编码和优化芯片上表现卓越，但在需要直觉和灵活思维的领域仍显笨拙。这一发现给那些认为 AI 自我进化指日可待的乐观时间表泼了一盆冷水，暗示真正的突破可能比预期要遥远得多。
今天的 AI 系统缺乏有价值的直觉创造力，尽管它们是极其出色的工程师，但似乎拥有一种机械的、公式化的思维特质，这可能阻碍它们成为优秀的研究人员。
HN 评论区
79- smackeyacky
这些模型连输出都无法自我核查，怎么可能接近递归自改进（RSI）？以 Gemini 为例，在我处理某些任务时，它大约 30% 的时候都错得理直气壮。我告诉它答案错了，它会道歉认错，但没过多久又回到错误的老路上。我觉得 AI 行业目前的预测仍然严重夸大。
- daavidhauser
Opus 4.8 加上 OpenClaw。我感觉这个领域发展太快了，用这套配置得出的结果，几乎无法说明我们现在到底离目标还有多远。
- 0xDEAFBEAD
我们要小心别陷入一厢情愿的幻想。人们总倾向于假设会出现某种“机械降神”（deus ex machina），让一切问题迎刃而解。我更喜欢把逻辑反过来想：如果事情失控的概率相当高，我们就应该叫停 AI 研发：https://pauseai.info/
- vessenes
废话，当然如此。如果真能用 Opus 4.8 做到这一点，我们早就知道了。当 Astra 的继任者在数学研究上比它强 2 到 3 倍，且内部团队表示“我们相信能达到那个水平”时，我更倾向于相信内部人士的说法。
- dgellow