跳到主要内容
检索

Hui Zhang

1 篇关联报道

订阅更新
  1. arXiv

    微调服务被投毒后还能救回拒答:只修两层LoRA,恶意分从11.54降到0.08

    面向微调即服务场景,恶意微调会在保留下游任务表现的同时削弱模型的拒答行为。SLDR把逐层安全诊断改成带符号的敏感度谱,只在敏感度最高和最低的两层上训练LoRA恢复适配器,并在推理时按表示层的恶意分数决定是否启用。在Llama3.1/SST2上,平均有害分从11.54降到0.08,下游准确率与未设防微调持平,投毒比例升到0.9时有害分仍接近零。

已读完全部报道