DeepMind 新框架:在梦境中自我进化

Dream-RSI: Recursive Self-Improvement through Evolving Worlds

自主 AI 代理的递归自我改进正面临探索策略难以优化的瓶颈。DeepMind 团队提出的 Dream-RSI 框架,通过构建基于历史发现的重放模拟器,让 AI 在“梦境”中进行低成本的政策评估与优化。这种方法无需重复昂贵的在线评估,即可即时获取反馈并改进探索策略,随后将优化后的策略重新部署以驱动更多发现。在算法工程、数学优化及 GPU 内核工程等多个领域,Dream-RSI 不仅提升了发现质量,还显著降低了探索成本,为 AI 的自主进化开辟了新路径。

通过在由历史发现树构建的重放模拟器中进行梦境推演,Dream-RSI 能够获取即时且低成本的离线策略反馈,从而在无需调用重复且昂贵的在线评估的情况下评估并优化探索策略。
  1. eggbrain

    也许我没理解对,但这是我对该论文所做工作的理解。

    假设你有一个想要解决的问题(比如识别 OCR 处理后的手写字符,例如 MNIST 数据集)。你告诉 3 个智能体:“嘿,你们每个人都试着从该数据集中识别字符,努力做到最好。你们可以进行 10 步优化来继续提升。”当然,你不能给每个智能体无限的步骤,因为你的计算资源是有限的。

    于是每个智能体开始工作,结束时,智能体 1 达到了 90% 的准确率,智能体 2 达到了 80%,智能体 3 达到了 89%。当然,智能体 1 赢了。

    但随后你查看优化步骤,发现智能体 1 在第 2 步时就已经达到了 90% 的准确率。所以该智能体在接下来的 8 步里基本上毫无进展。而另一方面,智能体 3 可能在每一步优化中都在持续提升准确率,但到了第 10 步就被迫停止了。

    现在,因为你记录了每个智能体的每一步,你知道下次该怎么做不同——你不会给智能体 1 分配那么多步骤,而是给智能体 3 更多步骤,因为这可能会导致智能体 3 得出更好的答案。

    据我理解,他们构建的“搜索”控制器就是这种东西——一种自动评估并重新应用资源分配方式的方法,以便在面对新问题时能更有效地分配资源。

    但我猜测我的误解在于,当将该搜索控制器应用于新问题时,它的适用性如何……

  2. againstapples

    在这里问为什么似乎没人担心递归自我改进(RSI)可能很危险,是不是个合适的地方?在我看来,这听起来是个非常糟糕的主意,但我挺想听听支持 RSI 一方的观点。

  3. rybosworld

    除非我理解错了,否则称这个为 RSI 似乎具有误导性?

    这看起来像是对当前训练方法的优化,而且是一个很好的优化,但并不是指那种可以无限期自我持续改进系统的“RSI”。

  4. benbenben111

    顺便一提;该论文显然参考了 Danijar Hafner 的 'Dreamer' 系列工作,该工作发表于 2019 年,Danijar 此后一直在迭代改进。https://arxiv.org/abs/1912.01603

    TalkRL 播客关于该系列工作的内容相对易懂,也很有趣。

    https://www.talkrl.com/episodes/danijar-hafner

    https://www.talkrl.com/episodes/danijar-hafner-on-dreamer-v4...

  5. ahmedhossamdev

    用于离策略评估的历史回放模拟器很巧妙——避免了昂贵的 rollout。好奇他们如何防止策略对已发现的分支过拟合,并在搜索空间扩大时变得过时?

同日更多故事

2026-09-16