长期智能体的记忆库可以折叠:记录减半,Mem0 上仍保住 99.0% 平均表现
核心概要
长期运行的 AI 智能体把交互历史存成外部记忆记录,记录越多检索越慢,检索回来的上下文越长生成越贵。MemFolder 把压缩拆成两步:RecordFolder 先按实体、语义和时间关系把相关记录并成更少的检索单元,ContextFolder 再在给定 token 预算下把每组写成紧凑编码,并用盲测校验关键事实能否被还原。在 Mem0 上把记录数减半时,RecordFolder 保留三个文本基准平均表现的 99.0%,高于 MemForest 的 97.1%;接上 ContextFolder 后,LoCoMo 与 LongMemEval 上每条记录的 token 数再降 40.3% 和 37.9%。
深度剖析
长期智能体的外部记忆可以沿两条轴同时折叠:先减少检索单元的数量,再缩短每个单元的长度,而不必在剪枝丢证据和合并变长之间二选一。 此前的后构建压缩要么剪枝、可能丢掉有用证据,要么合并记录、得到更少但更长的检索单元;在固定 top-k 检索预算下,单元变少仍可能带来更长的上下文。 在 Mem0 上把记录数减少 50% 时,RecordFolder 保留三个文本基准平均表现的 99.0%,MemForest 为 97.1%;减少 70% 时两者分别为 96.6% 和 93.3%。
RecordFolder 先把记录归到实体上,再逐步挑出既有代表性又彼此互补的锚点,用实体、语义和时间三种关系细化分组,最后让模型按时间顺序把每组记录并成一条检索单元。 锚点选择沿用密度峰值准则,后续锚点改用相对已选锚点的新颖度打分;实体相似度按实体出现频率降权,使罕见共享实体比常见实体更能拉近两条记录。 在 LoCoMo 与 LongMemEval 上,完整模型平均 57.2;去掉余弦相似度降 3.4 分,去掉增益门控、实体亲和与时间链分别降 1.9、1.1 和 0.6 分。
ContextFolder 复用同一批分组,在按源文本 token 比例设定的预算内把组内原始记录写成紧凑编码,并用一个看不到原文的盲读者回答事实问题,答不出的事实回退给压缩器修改。 编码使用日期、状态变化、属性、否定和不确定性的固定符号,规划器先按重要性筛出必须保留的事实,校验只检查这些事实能否仅凭编码还原。 在记录数减半后,ContextFolder 在 LoCoMo 与 LongMemEval 上把每条记录的 token 数再降 40.3% 和 37.9%;在 LongMemEval 上以每条记录 13.4 token 取得 51.8% 准确率,BabelTele 为 17.2 token 时 45.8%。
启示与展望
演示范围是三个文本记忆基准 LoCoMo、PersonaMem、LongMemEval 与两个多模态基准 M3-Bench-web、M3-Bench-robot,压缩层分别接在 Mem0、MemOS 和 M3-Agent 构建的同一份未压缩存储上,所有结果取三次运行平均。多模态设置下记录检索只占延迟的一部分,其余处理开销仍在。
盲读者可能对编码中确实存在的事实回答未知,从而触发额外修订;反过来,被遗漏的事实若错误通过校验,信息损失不会被发现。多模态基准上 ContextFolder 的准确率并非最高,BabelTele 在 M3-Bench-robot 上以每条记录 30.2 token 取得 32.13% 准确率,高于 ContextFolder 的 29.47%。
