蜂群学习给验证者加一道零知识门禁:梯度放大攻击下,CIFAR-100仍保住94%干净精度
蜂群学习把模型验证交给同伴节点,却从不核查这些节点私有数据的质量,验证者本身因此成为攻击面。该框架要求候选验证者先用零知识证明表明参考模型在其私有数据上正确运行,再由已准入验证者经拜占庭容错共识为每个提交确定梯度掩码与聚合权重。在梯度放大攻击使FedAvg跌到随机水平时,CIFAR-100上保留94%干净精度,FashionMNIST上超过99%,而FedAvg分别只有2.1%和11%。
蜂群学习把模型验证交给同伴节点,却从不核查这些节点私有数据的质量,验证者本身因此成为攻击面。该框架要求候选验证者先用零知识证明表明参考模型在其私有数据上正确运行,再由已准入验证者经拜占庭容错共识为每个提交确定梯度掩码与聚合权重。在梯度放大攻击使FedAvg跌到随机水平时,CIFAR-100上保留94%干净精度,FashionMNIST上超过99%,而FedAvg分别只有2.1%和11%。
已读完全部报道