联邦学习聚合梯度不再安全:恶意客户端可逐句剥离,精确还原他人训练文本
核心概要
在联邦学习中,恶意客户端此前只能从单个客户端的梯度里还原文本,一旦服务器把多客户端梯度平均聚合,句子信号就被淹没,现有攻击一句也精确还原不出。这项工作报告了一种迭代剥离流程:先精确还原一部分句子,再把它们的梯度贡献从聚合残差中减去,让原本被掩盖的句子在下一轮暴露出来。在聚合 token 数超过模型隐藏维度的设置下,该方法对已还原句子保持 100% 精确率,最多精确还原 80.2% 的客户端句子,而现有攻击在该区间精确还原为零。
深度剖析
参与联邦微调的诚实但好奇客户端,可以从服务器广播的聚合更新中精确还原其他客户端的训练句子,而不只是单个客户端的梯度。 此前的文本梯度反演攻击假设服务器诚实但好奇、能观察每个客户端各自的梯度,并且随批大小增大而退化;在 FedAvg 把多客户端梯度平均之后,这些方法一句也精确还原不出。 在 SST-2、Enron 和 PubMed 三个数据集上,与 DAGER、FILM、SOMP 对比,这三种基线在所有评测配置中都没有精确还原出句子,包括聚合 token 数低于隐藏维度的配置。
还原过程是一个循环:从当前残差中提出候选句子,用梯度一致性验证候选,再把已验证句子的梯度贡献按拟合出的比例减掉,得到更干净的残差进入下一轮。 候选生成用束搜索,按去白化后的反嵌入梯度行与当前前缀隐状态的余弦相似度、加上语言模型流畅度打分;验证要求候选的锚点 token 在输入嵌入梯度和第一层 MLP 梯度上以同一正比例同时吻合。 在 Pythia-160M 配 SST-2 的一次消融中,首轮验证还原 51 句,剥离步骤又进行了七轮有效还原,累计达到 100 句,精确率为 100%。
剥离是突破隐藏维度墙的关键,但聚合规模继续增大时还原能力仍会下降。 DAGER 依赖注意力梯度的低秩性做跨度检验,当 token 数接近隐藏维度时检验失去区分力;该方法的 token 方向求解改用第一层 MLP 的展开特征空间,容量取决于不同 token 的数量而非 token 出现总数。 随着聚合 token 数与隐藏维度之比继续增大,还原句子数趋近于零;在 Enron 的序列长度扫描中,还原在测试的长度上限内保持,到更长设置时显著下降,精确率也随之下降。
启示与展望
演示范围是诚实但好奇的单个客户端在 FedAvg 联邦全量微调中,从一轮聚合更新还原其他客户端的句子,模型覆盖 Pythia-160M、Pythia-410M 和 GPT-J-6B,数据为 SST-2、Enron 与 PubMed,聚合 token 数从 256 到 65,536。完整流程针对并行残差结构;顺序残差模型上使用关闭 MLP 证据项的简化版本,GPT-2 上 57 个被接受的候选中精确还原 38 句,Mistral-7B-v0.3 上在某一配置还原 7 句 SST-2 句子。
还原效果随聚合规模增大而下降,当聚合 token 相对隐藏维度足够大时还原句子数趋近于零;序列长度增加时还原与验证精确率同时下降。完整流程只在并行残差结构上有效,向更广架构扩展仍是后续工作。给共享梯度加高斯噪声在测试的非零噪声水平下把精确还原降为零,而梯度裁剪不影响还原;FedAdam 在该配置下没有精确还原,但这不构成对考虑服务器优化器的还原方法的防护。白化在 SST-2 这类重复短语较多的数据上会损害流程,在重复较少的私有数据上则稳定改善,二者关系留待系统研究。
