跳到主要内容
检索

# 成员推断攻击

3 篇关联报道

订阅更新
  1. arXiv

    持续更新的模型会泄露“何时用过”:TMIA 从置信度轨迹推断样本进出时间,时间戳级 F1 超 83%

    持续更新的模型会保留一串历史快照,攻击者可以查询这些快照,从而不仅判断某条样本是否被用于训练,还能推断它何时被加入、何时被移除。TMIA 把同一条样本在各快照上的置信度变化当作时间序列,用带滑动窗口的双向 LSTM 标出进入点和退出点,再按时间顺序配对成合法的成员区间。在三个语言模型和三个图像分类模型上,TMIA 的时间戳级 F1 在语言模型各设置中均高于 83%,区间级 F1 相对两个基线至少提升 21.82%。

  2. 四种网络流量生成模型被证明会泄露训练数据:成员推断成功率最高达88%,网络标识符可被完整还原

    该研究为合成网络流量提出了一套覆盖成员推断攻击、数据抽取攻击和网络特有攻击(标识符、属性、拓扑)的隐私度量体系,并在四种代表性生成模型(NetShare、NetDiffusion、TrafficLLM、NetSSM)和五个数据集上系统评估,发现在攻击者仅有黑盒访问且模型仅做最小训练的保守条件下,成员推断的TPR@FPR≤0.01最高可达0.88,网络标识符的还原率最高可达100%,且匿名化与DP噪声两类缓解手段各自只能覆盖部分风险并伴随效用损失。

  3. PCA加本地差分隐私的农业数据共享框架,在真实数据集上以约5.33%平均精度损失换取隐私保护

    该工作提出一个面向数字农业的隐私保护数据共享与协作框架,将主成分分析(PCA)降维与基于拉普拉斯噪声的本地差分隐私(ε-LDP)结合,在沙箱环境中聚合农民数据并用K-Means聚类和最近邻算法推荐潜在合作者,使研究者可在联邦学习或聚合隐私数据上训练个性化模型;在Wisconsin Farmer's Market与Crop Recommendation两个真实数据集上验证,模型精度与集中式原始数据训练相比平均损失约5.33%,并通过power分析评估对成员推断等攻击的鲁棒性。

已读完全部报道