LLM 的非确定性为何不再重要?
Non-Determinism Doesn't Matter
我曾认为 LLM 输出的非确定性是 AI 编程的致命缺陷,毕竟同样的提示词无法保证每次运行结果一致。但当我真正将 AI 作为主要代码生成工具时,观念发生了转变:结果必须精确,但达成结果的路径无需确定。LLM 在系统中扮演的是“执行者”角色,而代码只是其产物。就像程序员可以用无数种语言实现同一功能,我们只需通过 context engineering、MCP、skills 等工具缩小概率空间,并让 Agent 调用确定性的工具来执行关键操作。这种模式不仅减少了随机性,还大幅降低了 token 消耗,是自动化演进的自然延伸。
结果必须是精确的,但达成这一结果的途径并不需要是确定性的!