跳到主要内容
检索

# 叠加感知遗忘保护

1 篇关联报道

订阅更新
  1. arXiv

    合法删除请求也能被利用:代理遗忘攻击让从未被点名的敏感实体一起消失

    大语言模型把不同实体编码在共享的参数子空间中,这种知识叠加使一次合法的遗忘请求在删除被请求实体时,也会连带削弱从未被请求的敏感实体。研究者把这种利用合法请求实施的定向攻击命名为代理遗忘攻击(PUA),并提出叠加感知遗忘保护(SAUP):遗忘前在表示层检测受威胁实体,遗忘后解耦共享表示并恢复它们,同时保持被请求实体仍被抑制。在三个知识领域和两个模型家族上,PUA 在目标实体上造成选择性下降,SAUP 恢复了大部分受损知识。

已读完全部报道