Ramez Naam：AI 智能爆炸为何迟迟未到

Where's the "Intelligence Explosion"?

尽管行业普遍期待 AI 通过递归自我改进（RSI）引发“智能爆炸”，但未来学家 Ramez Naam 对此提出强烈质疑。他指出，虽然我们在棋类、数学证明等可验证领域已拥有狭义超级智能，但现实中的 AI 研发远比基准测试复杂。OpenAI 的内部数据显示，AI 在无需人类干预下完成研究任务的能力远低于预期，且维持进步所需的资源呈指数级增长。Naam 认为，当前的自我改进循环强度不足，缺乏加速回报的证据，所谓的“快取”（fast takeoff）可能只是科幻想象。即便没有奇点，AI 到 2040 年也将展现出神一般的能力，但通往不可控超级智能的道路远比我们想象的漫长。