AI自我加速：临界点何时到来？
The Economics of Recursive Self-Improvement [pdf]
这篇由 Tom Cunningham 等学者撰写的论文，用经济学模型拆解了 AI 递归自我改进（RSI）的底层逻辑。研究通过构建反馈回路图，区分了“窄义”与“广义”AI 能力，指出单纯优化 R&D 指标未必能带来经济价值的爆发。基于现有数据测算，目前 AI 工程师的效能提升约为 9%，尚未达到触发自我持续加速所需的 15% 阈值。虽然真正的“智能爆炸”尚未发生，但反馈回路正在增强，未来是否会出现类似启蒙运动级别的变革，取决于算法效率与算力瓶颈的博弈。
粗略估算表明，当前的反馈回路强度还不足以产生自我持续的加速，尽管它们似乎正在增强。
- 有评论者指出，当前 LLM 的'推理'能力本质上是人类手动聊天过程的自动化加速，尚未展现出脱离人类引导的独立突破。
- 一位用户反驳技术加速论，认为技术乐观主义者历史上持续高估了变革速度，而近期看似不可能的突破可能只是'变化盲区'导致的错觉。
- 有观点提出，若 AI 研发自动化导致人类失去经济价值，可能引发类似'资源诅咒'的困境，使底层阶级被彻底边缘化且无法通过 UBI 获得帮助。
- 评论中有人质疑，既然进化是 AI 的标准技术，为何人类和 AI 都未能设计出超越自身的智能，暗示进化本身存在盲目性限制。
- 针对电池技术类比，有评论认为 LLM 的进步受限于现有理解的边界，真正的难题在于解决权衡（tradeoff）而非简单的化学替换。