Pi 如何智能压缩对话上下文

How Compaction Works in Pi

在使用 Pi、Claude Code 或 Codex 等编程助手进行长时间编码时，对话历史会不断膨胀，最终触发 LLM 的上下文窗口限制。为了解决这个问题，Pi 采用了一种巧妙的压缩机制：当上下文即将溢出时，它不会直接丢弃历史，而是调用 LLM 生成一份结构化的摘要，涵盖目标、进度和关键决策，同时保留最近的对话轮次。这种机制既保留了关键信息，又为新的交互腾出了空间。虽然压缩会打破现有的 Prompt 缓存，但它确保了会话的连续性，并且生成的纯文本摘要支持在不同模型间无缝切换。