让 LLM 自动把自己优化掉

Automating AI Away

A. Karpathy 曾直言 OpenAI 的研究人员正在通过改进 AI 而‘自动将自己淘汰’。我在用 Anthropic 的 Fable 开发 Beagle SCM 时深有体会：它虽然能精准发现代码漏洞、自动提交修复，却也会笨拙地把 build 目录误提交两次。LLM 越聪明，越显得笨手笨脚，因为它们天生非确定且易出错。相比之下，Ragel 能瞬间生成形式上绝对正确的解析器。我的策略是：用快速、确定性的工具包裹住 LLM 的‘聪明但不稳定’，构建形式化工作流。当 LLM 反复执行某操作或频繁失败时，我们就用确定性工具自动化这些环节。Beagle SCM 允许 LLM 用 JavaScript 编写自己的例行脚本，底层由 C 语言支撑，上层工具链全用 JavaScript 实现。最终，我们让 LLM 在自动化中‘自我淘汰’，让简单可靠的工具接管一切。

"我们让 LLM 自动把自己淘汰，转而采用简单可靠的确定性工具。"