Piのコンパクション：会話履歴を圧縮してコンテキストを延命する仕組み

How Compaction Works in Pi

コーディングエージェントPiは、LLMのコンテキストウィンドウを超える長い会話を扱うため、コンパクションと呼ばれる機能を実装している。コンパクションは、古い会話履歴をLLMに要約させ、最近のメッセージはそのまま保持することで、コンテキストを圧縮する。Piでは、自動または手動（/compactコマンド）でトリガーされ、要約はプレーンテキストとしてセッションに保存される。この要約は、プロンプトキャッシュを壊すが、モデルを切り替えても利用可能。Piはカスタムコンパクションプロンプトを設定できる。