AI 实验室的“减速”谎言与真相

Pacing the Frontier is not the actual goal for AI labs

Dario Amodei 等 AI 巨头高管近期频繁呼吁“放缓前沿发展”（pacing the frontier），声称要让安全研究跟上能力进步。然而，现实却是这些实验室在发布 SOTA 模型、推进递归自我改进（RSI）和自动化生物研究上从未停歇。文章指出，这种言行不一并非简单的虚伪，而是源于高管与顶尖工程师之间的动机错位：高管们深知构建 AGI 如同召唤“魔灯”的风险，但他们最大的恐惧并非人类灭绝，而是因安全顾虑导致人才流失，从而输掉技术竞赛。因此，那些关于风险的警告更多是为了留住担心 x-risk 的工程师，而非真正为了人类安全而踩刹车。