跳到主要内容
返回时间线
arXiv来源发表:

合法删除请求也能被利用:代理遗忘攻击让从未被点名的敏感实体一起消失

核心概要

大语言模型把不同实体编码在共享的参数子空间中,这种知识叠加使一次合法的遗忘请求在删除被请求实体时,也会连带削弱从未被请求的敏感实体。研究者把这种利用合法请求实施的定向攻击命名为代理遗忘攻击(PUA),并提出叠加感知遗忘保护(SAUP):遗忘前在表示层检测受威胁实体,遗忘后解耦共享表示并恢复它们,同时保持被请求实体仍被抑制。在三个知识领域和两个模型家族上,PUA 在目标实体上造成选择性下降,SAUP 恢复了大部分受损知识。

Source-provided article image: Protecting Sensitive Knowledge Under LLM Unlearning: The Proxy Threat and a Superposition-Aware Defense
arXiv

深度剖析

一次完全合法的遗忘请求,可以在不点名某个敏感实体的前提下,让模型对这个实体的知识明显退化。 此前的遗忘研究主要看被请求实体是否删干净、模型通用能力是否保住,并把连带损伤当作效用或评测问题;这里把连带损伤当作可被利用的定向安全风险。 在 LLaMA-3.1-8B 与 Qwen-2.5 系列上,跨 CounterFact、UMLS、SBIC 三个领域,目标组从未被提交删除,Judge 分数仍随代理组一起下降;LLaMA 上 SBIC 在 GA 下从 0.850 降到 0.281。

攻击者只需通过正常的遗忘接口提交与被攻击目标在表示上重叠的代理实体,就能把伤害集中到目标上,而不必让请求本身看起来可疑。 与需要预先投毒、植入后门或比较原始模型与遗忘后模型的攻击不同,这种攻击不需要事先接触训练数据或模型内部,危害来自遗忘被正确执行本身。 与请求规模匹配的随机代理请求相比,按知识叠加检测选出的代理请求平均使目标下降 0.331,而随机请求只下降 0.052;在 Qwen 上,用同家族 3B 代理模型做黑盒迁移,目标下降仍有 0.090 到 0.168。

防御方可以在不修改遗忘算法本身的情况下,在遗忘前后各加一步,既完成合法删除,又把被连带削弱的受保护实体恢复回来。 直接微调恢复会同时把被请求实体也恢复,因为两者共享表示方向;输出层事后检测又只能看到已经明显退化的样本。 在 LLaMA 上,SAUP 在全部六个单元中提升目标分数并保持目标与代理之间的正差距,SBIC 上 GA+SAUP 达到 0.460 对 0.781;与输出层检测恢复基线相比,SAUP 在三个领域都保持更宽的目标–代理差距。

启示与展望

评测限定在实体级事实知识上,用定义、类别、关联三类探针打分,不覆盖通用任务能力;实验在公开开放权重模型上本地运行,涉及 LLaMA-3.1-8B-Instruct 与 Qwen-2.5 系列,知识领域为 CounterFact、UMLS 和 SBIC。

恢复受保护实体时,被请求的代理实体分数也可能回升:LLaMA CounterFact 上 GA 后代理分数上升 0.213,NPO 后上升 0.291,说明保护目标与严格完成删除请求之间存在可测量的权衡。