Code Mode 让系统成本降低 99.2%

Code mode yields a 99.2% cost reduction in our systems

Code Mode 让系统成本降低 99.2%

我们实测了 Cloudflare 提出的 Code Mode 模式,发现将 26 次工具调用压缩为一次脚本执行,能让成本从 2.44 美元骤降至 0.02 美元。通过让脚本在沙箱中处理原始数据,仅将最终摘要送入模型上下文,我们成功避免了海量 JSON 数据占用 LLM 的上下文窗口。这一策略不仅减少了约 99.2% 的 Token 消耗,还将执行时间从数分钟缩短至 13 秒。这正是 Anthropic 和 Cloudflare 所倡导的最佳实践:别让原始数据直接经过模型,而是用代码做预处理。

给智能体一个沙箱和生成的 API,而不是原始工具调用,原本需要 15 万 Token 的任务现在只需 2000 个,因为原始数据根本不需要经过模型的上下文。

同日更多故事

2026-07-23