Harness Engineering:AI 自我进化的新引擎
Harness Engineering for Self-Improvement

递归自我改进(RSI)的未来或许不在于模型直接重写权重,而在于 Harness Engineering 的进化。文章深入探讨了围绕基础模型的系统架构,包括工作流设计、文件系统作为持久化记忆、以及子代理与后台任务的协同。从 Agentic Context Engineering (ACE) 到 Meta Context Engineering (MCE),再到 Meta-Harness,这些技术将上下文管理从简单的提示词扩展为可优化的代码空间。正如 Karpathy 的 autoresearch 项目所示,通过构建可执行的搜索空间,强大的编码代理能够利用与人类工程师相同的设计空间,推动 AI 系统实现真正的自我迭代与进化。
一旦 Harness 设计变成了一个可执行的搜索空间,强大的编码代理就能利用人类工程师所使用的相同设计空间。
HN 评论区
75- erwincoumans
感谢这篇非常棒的深度好文!期待未来能看到关于以下内容的文章:
“近期关于自动研究、自我改进智能体以及进化式程序搜索的大量工作,都可以围绕这个问题来组织。其他关于模型自我博弈、合成数据、测试时训练以及更广泛的持续学习主题,也与 RSI(递归自我改进)的愿景相契合(例如 Yuan et al. 2024, Chen et al. 2024, Zhao et al. 2025, Choi et al. 2026),但本文不会重点讨论这些。”
- zby
在我看来,训练权重的时代已经见顶,现在是时候转向针对提示词(prompts)和代码的训练范式了。这里虽然没有梯度下降,但我认为它可能具有更高的样本效率,因为因果理论往往优于单纯的关联。
我正在 https://zby.github.io/commonplace/ 构建一个统一理论——所有内容都由智能体编辑,所以读起来可能有点费劲,但希望我们已经捕捉到了大部分逻辑错误。总有一天,LLM 生成的文章会变得更易读。
我甚至有一个关于实现正向反馈循环所需条件的初步理论:https://zby.github.io/commonplace/articles/reflective-self-i...(目前还不稳定,但我觉得你可以把它喂给你的智能体读读 :))
- bob1029
我认为 RSI 最大的问题在于,当面对极难的问题时,模型倾向于寻找“巧妙”的解决方案(也就是作弊)。
我刚刚让 gpt5.5 给出一些能改善符号机器学习实验收敛性的建议,它做的第一件事就是添加了一条指令,直接输出字节,并找到一种方式将这些字节原样存储在模型中。它以创纪录的时间拿到了满分,但结果毫无意义。
如果你知道需要改进的方向,我认为当前的模型能带你到达那里。然而,我不认为它们有能力决定哪个方向最好,尤其是当给定一个需要最小化或最大化的标量值,并拥有对该过程的自主权时。
- Kinrany
寻找 Torment Nexus 的征程仍在继续
- kriro
文章读起来非常享受。
Harness(框架/驾驭机制)不正是前沿模型公司能够捕获价值并构建某种护城河的地方吗?我也出于兴趣好奇构建一个 harness,但我预计只有在能够自托管开源权重模型的场景下,这才会更有趣。
是什么驱动人们去构建自己的 ChatGPT 或 Claude harness 呢?而且,面对前沿模型的快速迭代,你如何保持它的调优?