AI 专家辩论：递归自我改进近在咫尺？
AI researchers debate how close we are to recursive self-improvement
本期节目邀请了 Zyphra 的 Beren Millidge、Thinking Machines 的 John Schulman 以及 Baseten 的 Charlie O'Neill，共同探讨 AI 递归自我改进（RSI）的真实进展。我们深入分析了为何 AI 能力增长可能遭遇瓶颈，是受限于 sim-to-real 差距，还是因为缺乏真正的泛化火花？讨论还触及了当前 Transformer 架构与 RL 训练范式是否已触及天花板，以及未来突破是否必须抛弃 gradient descent。嘉宾们认为，若无法发现新的范式突破，AI 发展可能陷入渐近线，而非迎来指数级爆发。
如果继续沿着当前的范式扩展，无论运行多少 LLM，都不一定能发现那个如果距离太远就无法触及的断层。
HN 评论区
116- bretpiatt
从我目前的体验来看，我们已经拥有了能够找到局部最优解的递归自我改进（RSI），但我并没有看到太多强有力的证据表明，存在一种无需引导就能找到真正全局最优解的 RSI。
- reilly3000
我通过浏览太多关于 AI 的文章，开发出了一套高度个性化、本地化、离线的 RSI。它主要在我的右拇指上。
- killbot5000
有人能定义一下在这个语境下“改进”具体指什么吗？否则这个概念听起来就像个流行 buzzword。
- anoplus
AI 的优化目标应该是让所有人类无一例外地健康、快乐且安全。
- carabiner
有人知道 John Carmack 的 AGI 工作进展如何吗？
- preommr
当这些词汇本身都不再重要时，这类讨论又有什么意义呢？
AGI 已经被宣布过多少次了？比如，一群人（例如 Jensen Huang）就把 Astra 称为 AGI。
目标线不断被移动，所有人都在忙着忽悠、撒谎、发明新 buzzword、玩弄文字游戏，这一切都让人疲惫不堪。
直接给我看结果吧，让事实说话。
- eugene3306
好吧，AI 现在能写诗或作曲了。
但 AI 能构建 Terminal Bench 5.0 或 GDPval 2027 吗？
如果没有这些，就不存在通往 RSI 的路径。
- deadbabe
递归自我改进最终将是一个资金问题。这是一笔巨大的账单，AI 公司需要开始思考如何积累廉价甚至免费的能源，因为仅仅支付算力费用将不再足够。资金才是瓶颈。未来需要的是那些超越资金限制的公司。