长上下文非万能：语境工程的四大陷阱

The State of Context Engineering

我在 AGNTCon 大会上分享了语境工程的现状。2024 年，随着 Gemini 1.5 和 Llama 4 推出百万级上下文窗口，人们曾以为将互联网全部塞入模型就能解决一切，RAG 技术似乎已死。但现实是，长上下文带来了新的灾难：Context Poisoning（语境污染）、Context Distraction（语境干扰）、Context Confusion（语境混淆）和 Context Clash（语境冲突）。我通过 Gemini 2.5 在玩 Pokémon 时因训练数据偏差而执着寻找“冰茶”的案例，揭示了模型如何被错误信息“毒害”；又引用最新研究指出，过长的对话历史会让模型忽略指令，盲目模仿历史中的错误示例。语境工程的核心，在于知道何时该确定、何时该概率化。