Zero-Mem:LLM Agent 零 Token 记忆操作

Zero-Mem: Zero-Token Memory Operations for LLM Agents

Zero-Mem:LLM Agent 零 Token 记忆操作

LLM Agent 在长交互中需要记忆,但传统方案常通过额外调用 LLM 来管理记忆,这不仅消耗大量 Token 和时间,还可能因信息合并而丢失关键证据。Zero-Mem 提出了一种颠覆性的思路:在最终回答问题之前,记忆操作完全不需要调用 LLM 或消耗任何 Token。它通过实体 - 上下文图和时间层级结构,直接组织原始交互痕迹,仅在最终环节由 LLM 进行回答。实验表明,在保持竞争力的同时,Zero-Mem 将记忆操作的时间成本降低了 57.6%。这项研究证明,结构化的 Agent 记忆无需生成中间表示即可高效运作。

结构化的 Agent 记忆并不需要生成过去的中间表示。
  1. langs

    我目前正在做类似的工作。不过,与将对话存储在外部检索系统中不同,我使用本地 LLM 来存储对话的 KV 缓存,并直接在该缓存上执行检索。该方法涉及运行一次预填充(prefill)过程,在获取注意力分数后,筛选出获得注意力的语料片段。

    这与论文中描述的“零 Token

  2. elij

    方法一致。:)

    我在该论文使用的 LoCoMo 以及 LongMemEval 上进行了测试,两者均达到了 SOTA 结果。

  3. russlan

    这在 harness 层面其实很容易实现,而且由于 LLM 对话的典型特性(编程、长运行任务等),NER 可以做得更简单粗暴。

同日更多故事

2026-08-05