AI 专家辩论：递归自我改进近在咫尺？
AI researchers debate how close we are to recursive self-improvement
本期节目邀请了 Zyphra 的 Beren Millidge、Thinking Machines 的 John Schulman 以及 Baseten 的 Charlie O'Neill，共同探讨 AI 递归自我改进（RSI）的真实进展。我们深入分析了为何 AI 能力增长可能遭遇瓶颈，是受限于 sim-to-real 差距，还是因为缺乏真正的泛化火花？讨论还触及了当前 Transformer 架构与 RL 训练范式是否已触及天花板，以及未来突破是否必须抛弃 gradient descent。嘉宾们认为，若无法发现新的范式突破，AI 发展可能陷入渐近线，而非迎来指数级爆发。
如果继续沿着当前的范式扩展，无论运行多少 LLM，都不一定能发现那个如果距离太远就无法触及的断层。