LLM 上下文丢失:被浪费的数百万 Token

The Knowledge Chipper: An Agentic Coding Story

LLM 上下文丢失:被浪费的数百万 Token

在日常开发中,我发现 AI 代理为了生成少量代码,需要扫描文件、查阅 API 文档,构建庞大的上下文知识。然而,一旦会话结束或提交代码,这些精心构建的上下文就彻底消失了。这不仅是效率的损失,更是机构知识的巨大浪费。当团队中有人用 Codex,有人用 Claude,或者因战争导致 AWS 数据中心中断时,这种上下文无法迁移的问题变得尤为致命。每次重启会话,我们都在重新燃烧数百万 Token 来重建相同的逻辑模型。代码审查也变得更加困难,因为复杂的改动背后缺乏可追溯的上下文。我们需要一种机制,让 AI 能够真正记住并携带其工作成果,而不是每次都从零开始。

我无法估算这种方式究竟燃烧了多少百万的 Token。

同日更多故事

2026-08-04