LLMエージェントのメモリ操作からLLM呼び出しを完全排除した「Zero-Mem」、トークン消費ゼロで同等性能を達成

Zero-Mem: Zero-Token Memory Operations for LLM Agents

LLMエージェントは長期的な一貫性のためにメモリを必要としますが、従来のシステムではメモリ操作に追加のLLM呼び出しが必要で、トークンと時間のコストがかかっていました。Zero-Memは、最終的な質問応答以外のステップでLLMを一切呼び出さない「ゼロトークンメモリ操作」を実現します。エンティティ・コンテキストグラフと時間的階層の2つのビューで対話トレースを整理し、クエリに応じて両方から検索します。決定的なキャリブレーションで矛盾する証拠を破棄し、最終QAリーダーのみがLLMを使用します。長文メモリ・長文コンテキストのベンチマークで競争力のある性能を達成し、メモリ操作の時間コストを最速ベースライン比57.6%削減しました。