红皇后假说：AI 自我进化的新路径
Red queen hypothesis – a new way forward for self-improving AI
剑桥大学计算机系提出利用红皇后假说推动 AI 自我进化的新思路。该理论认为，AI 系统必须持续进化才能在与环境及其他智能体的竞争中保持优势，而非单纯追求静态的最优解。研究团队通过模拟动态对抗环境，验证了这种机制能有效激发 AI 的自适应能力和长期创新潜力。这种方法为突破当前大模型在复杂场景下的性能瓶颈提供了全新视角，让 AI 在不断的‘军备竞赛’中实现真正的自我完善。
在红皇后假说的框架下，AI 必须不断奔跑才能保持在原地，这种持续的进化压力正是推动其自我改进的关键动力。
- nullbio
在我看来，这种方法仅适用于自我改进到人类已经明确定义、解决并映射好的目标和问题的程度。例如，"在检查点，如果更强的评估器在受信任的基准真实示例上表现更好，就可以替换旧的评估器。"——如果它们是受信任的基准真实数据，那它们必须非常严谨。如果我们试图解决人类尚未解决的问题，你的基准真实示例从哪里来？如果 AI 从未见过该问题的解决方案，它是不可能为你生成这些示例的。
我完全能理解这样的论点：这能让我们更快地训练模型并更快收敛，因为如果你随着学习者的能力提升同步增加评估的难度，它就能减少大量在原地打转的时间。这本质上是通过战略性排序训练数据来实现损失最小化。但这真的是这里的目标吗？还是说目标是递归自我改进并解决目前无法触及的问题？因为凭感觉，后者用这种设计似乎不可能实现。
例如，你如何量化"随着代理能力的提升，评估变得更难"？更难，怎么个难法？朝哪个方向？通过什么标准或度量？
- robotresearcher
这是 Floreano 在 EPFL 于 1997 年发表的一篇论文，明确讨论了利用红皇后动力学为智能机器人控制创建神经网络。
在 90 年代，这些想法曾引起大量讨论。那时我们训练非常小的神经网络——只有几十个节点——通过进化它们的权重和拓扑结构。在当时的工作站上，运行一次可能需要数天。
这篇特定的论文讲的是捕食者和猎物的协同进化，其中一方的行为就是对另一方的"评估"。
https://infoscience.epfl.ch/entities/publication/a65d0679-68...
- throwa356262
还没读这篇论文，但这听起来不像是把 GAN 应用到了代理训练上吗？