Paradigm 推出 RSI Simulator 模拟 AI 自我进化
我们开发了一款名为 RSI Simulator 的网页游戏，旨在直观展示 AI 研发背后的经济学逻辑。在游戏中，你将扮演一家 AI 实验室，从零开始投入人力、算力和数据，试图构建能够自我持续加速的超级智能。这款工具基于 Elasticity Institute 的论文《The Economics of Recursive Self-Improvement》构建，融合了 compute-optimal training 等前沿模型。通过游戏和配套的 explorer 工具，我们发现 AI 的自我改进往往受限于算力或数据等“弱环节”，且可能呈现爆发式增长而非线性发展。这有助于我们更理性地预测 AI 能力的演进轨迹，理解参数化对未来的关键影响。
即使你能构建出超越任何人类研究者的 AI，只要当前范式不变，它作为研究者的能力仍会受限于实验和训练所需的算力以及数据。
HN 评论区
19- mrkpdl
嗯，这个缩写已经被占用了……
- enricotal
《Universal Paperclips》好玩多了，而且那才是我们所有人的结局。
- NickNaraghi
> 你在 2033 年 3 月 15 日构建了 AGI。Ada 在 2033 年 8 月 12 日构建了超级智能。
挺有趣的。虽然有点单一维度，但很好地揭示了风险投资人如何看待 RSI。我的第二次尝试结果与第一次几乎完全相同，尽管资本配置不同。