Memorilla：LLM 的潜语义记忆新范式
Memorilla: Latent Semantic Memory for LLMs
Memorilla 为冻结的 LLM 带来了一种全新的记忆系统，它能将海量文档信息压缩为固定数量的 query-dependent memory tokens。不同于传统方法，Memorilla 只需 16 个 token 即可在 FactKG 等基准测试中超越全上下文推理，同时节省 108 倍的 token 消耗。在 TextWorld 环境中，它显著提升了智能体的成功率，有效减少了重复探索。这一突破让 LLM 在长上下文交互中更高效地积累和利用知识，为构建持续学习的 AI 系统迈出了关键一步。
Memorilla 仅需 16 个记忆 token，便在五个基准测试中超越了包括 Mem0 和 MemoRAG 在内的基线模型。