删掉消息不等于删掉记忆:LinEra让遗忘请求一次作废整条派生链,攻击者拿到全部文件也读不出秘密
核心概要
大模型智能体的长期记忆多由模型自己写出,删除原始消息后,摘要、事实和向量仍留在存储与备份里。LinEra把每条记忆的密钥绑定到其父记忆的密钥上,遗忘一个来源只需在可穿刺伪随机函数上打一个孔,所有后代随即无法解密。在LoCoMo对话上,由Qwen2.5-7B写入记忆时,攻击者持有全部文件和当前密钥,逻辑删除后仍能恢复71个被遗忘秘密中的70个,按对象或按纪元加密的密钥方案为67个,LinEra为零。
深度剖析
遗忘一个用户输入,现在可以同时作废由它派生出的全部记忆,而不需要先找到这些记忆。 此前的逻辑删除依赖存储事后守规矩,按对象或按纪元的密钥只擦除被点名的那个对象,模型写出的摘要和事实仍然可读。 在LoCoMo对话上由Qwen2.5-7B写入记忆,攻击者拿到全部文件和当前密钥后,逻辑删除泄漏71个被遗忘秘密中的70个,按对象或按纪元密钥泄漏67个,LinEra一个也没有泄漏。
做法是让每条记忆的密钥由它写入时看到的那些父记忆的密钥推导出来,遗忘就变成一次密钥操作。 来源密钥取自可穿刺伪随机函数,穿刺一个点后该来源及其所有后代都失去可解密的密钥,无论密文存放在哪里。 在mem0 2.2.1上以约140行适配器接入,遗忘两条含秘密的消息擦除了12个对象,攻击者在可解密记录和原始字节中都没有找到秘密。
代价是遗忘半径变大,而半径由写入者上下文里包含多少条来源轮次决定。 会话级写入者平均有181.5条来源祖先,遗忘1%的轮次会擦掉73.0%的派生记忆;改为四轮窗口后扇入降到3.8,半径降到3.8%。 同一批LoCoMo对话上,四轮窗口写入者的答案质量在遗忘1%时保持30.7,会话级写入者从27.8降到13.8,重新派生后回到27.9。
启示与展望
实验使用不超过70亿参数的开源模型:Qwen2.5-1.5B在LoCoMo五段对话上写入记忆,Llama-3.2-3B在两段对话上复核,Qwen2.5-7B在全部十段对话和100条LongMemEval-S历史上重放;答案质量只在同一台机器上计算的条件之间比较。
派生图的结构、对象大小和创建时间仍以明文可见,遗忘后攻击者能知道曾存在某个有子节点的对象,但不知道其内容。方案不保护模型权重、遗忘时刻的内存内容,也不保护请求之前已复制出系统的数据;若同一事实在另一条消息中重复出现,遗忘其中一条并不会遗忘该事实。
