跳到主要内容
检索

# 差分隐私

15 篇关联报道

订阅更新
  1. Scientific Reports

    手机与云端分摊生成式推理:MAGS用报价代替抢单,p99延迟降17.1%

    生成式查询的代价要等答案生成完才知道,设备只能提前占资源,多台设备还会同时涌向同一台服务器。MAGS让每台设备先用本地小模型的四层探针预测token数与生成熵,再按服务器广播的拥塞价格竞标云端容量,并在同一次出价里选定每token的隐私参数。在相同观测与调参预算下,十个随机种子上它相对反应式PPO基线把p99延迟降低17.1%、每token能耗降低13.6%、吞吐提高20.7%;八设备两服务器实测把卸载决策的跨设备相关性从0.41降到0.08。

  2. arXiv

    半空间学习也能差分隐私:三种不可知设定下隐私代价被统计项吸收,样本量不再多付

    在标签可任意错误的高斯边际半空间学习中,差分隐私此前缺少计算高效的算法。这项工作报告了三种设定下的高效差分隐私学习器:非正当学习、正当学习和半正当学习;当隐私参数不小于精度参数时,隐私带来的额外样本代价被各自的非隐私统计项吸收,因而在样本复杂度意义上“隐私免费”。

  3. arXiv

    GraphRAG 的关系也能加隐私预算:RelGuard 把关系恢复 F1 压低 26.98 至 44.35 个百分点

    GraphRAG 通过实体关系把跨文档信息连起来,但黑盒查询也能被用来重建知识图谱,泄露实体之间是否相连以及关系含义。RelGuard 在建立索引前先改写源文档:按实体类型生成候选关系,再用指数机制为每条关系抽取一个替换谓词或删除该关系,并给出关系级差分隐私保证。在 LightRAG、PathRAG 和 HippoRAG 2 三个系统、两个数据集和两种重建攻击上,它的关系恢复 F1 比最强基线低 26.98 至 44.35 个百分点,问答 F1 的额外损失在多数设置下为 0.59 至 4.78 个百分点。

  4. arXiv

    可验证奖励强化学习首次拿到提示级差分隐私保证:奖励信号在噪声下仍能提分

    可验证奖励强化学习(RLVR)用带标准答案的题目训练语言模型,但训练题本身可能涉密,模型权重会泄露它见过哪些题。DP-GRPO 把同一道题的全部回答合成一个梯度、只裁剪一次并加高斯噪声,使发布权重的隐私预算与每题回答数和裁剪范数无关,作者称这是 RLVR 训练的首个差分隐私保证。在 Qwen2.5-1.5B-Instruct 上以 LoRA 训练、每次运行预算为 8 时,奖励信号相对去掉奖励的对照在 MATH 上提高 2.65 个百分点、GSM8K 上提高 3.24 个百分点,且每个随机种子都为正。

  5. researchsquare.com

    合成病历也能带隐私保证:在ε=8下,攻击判别接近随机,临床有效性达0.961

    合成电子健康记录长期在临床保真度与形式化隐私保证之间取舍。SynthEHR-DP把混合类型编码器、时间Transformer编码器与条件变分自编码器组合起来,在差分隐私随机梯度下降和Rényi隐私核算下训练,并在推理后加一层不消耗隐私预算的临床约束层。在MIMIC-IV上、总预算ε=8、δ=10⁻⁵时,成员推断攻击AUC为0.52,下游TSTR AUROC为0.786,比非私有的TRTR上界0.821低4.2%,临床有效性得分0.961。

  6. researchsquare.com

    隐私联邦学习不再整包上传:按网络阶段筛出可共享的体育语义,强隐私下识别率提高约4个点

    体育图像分散在学校、俱乐部等机构,联邦学习虽不传原图,但上传的模型更新仍可能泄露信息,差分隐私的裁剪与噪声又会损伤有用知识。FedSS 在裁剪之前按网络阶段评估每部分更新的可共享程度,只把跨客户端可迁移的体育语义加噪上传,把客户端特有的外观、背景等上下文留在本地。在 sport22 与 sport100 上,它相对最强基线 DPSIR-Fed 在视觉上下文异质设置下分别高出 5.78 和 5.71 个百分点,在 ε=4 的强隐私设置下把 sport22 准确率从 42.67% 提到 46.81%。

  7. researchsquare.com

    纯噪声蒸馏不再等于消毒:共享初始化让学生模型继承教师记忆的标签与后门

    只用高斯噪声查询教师模型做蒸馏,学生模型仍会继承教师对训练样本的记忆和植入的后门,前提是师生共享同一个公开初始化。MNIST 上,仅通过从未训练过的辅助输出蒸馏,成员推断 AUC 达 0.86、后门攻击成功率提升 93%;独立初始化的学生则接近随机。在公开基座微调的现实威胁下,攻击者不持有任何训练数据,仅用噪声查询即可恢复 93% 私有金丝雀的记忆标签。

  8. researchsquare.com

    物联网设备不再靠固定凭证验身:行为指纹加联邦学习,成员推断攻击成功率从48.2%降到12.4%

    物联网设备认证正从一次性核验固定凭证转向持续核验设备行为。此前静态凭证与集中式信任在设备被攻破后难以察觉异常,且会暴露可识别标识。该方案用硬件行为指纹、联邦学习与差分隐私、轻量许可链和智能体编排组合成持续认证流程;在PP-IDE数据集的11台树莓派上,差分隐私把成员推断攻击成功率从48.2%降到12.4%,认证准确率为99.2%。

  9. researchsquare.com

    膝骨关节炎分级不再集中病历:十家机构各持特征列,异步联邦下报告准确率99.64%

    膝骨关节炎的多模态诊断数据分散在不同机构,集中训练既贵又易泄露隐私。一套异步联邦学习方案把结构化病历、半结构化记录与影像先融合成可查询数据表,再在十家模拟机构上按纵向切分的特征列各自计算梯度,服务器端用Bulyan聚合与自适应差分隐私过滤恶意更新。在5580例膝骨关节炎数据上,该方案报告准确率99.64%、AUC 0.998,通信开销285MB,攻击成功率1.8%。

  10. arXiv

    BRACE 为 LSR 稠密联想记忆提供差分隐私检索,在 MNIST 上把预测误差从 0.061 降到 0.011

    作者为 log-sum-ReLU 稠密联想记忆(LSR-DAM)提出首个差分隐私检索机制 BRACE:它先识别因隐私噪声而改变归属的记忆点并做自适应边界修正,再注入校准噪声,从而抑制紧凑支撑检索中边界切换导致的误差累积;理论上证明其终端与全轨迹检索误差达到极小极大最优,并给出刻画隐私噪声贡献的轨迹中心极限定理;合成实验显示微小扰动即可改变 11 个门成员,MNIST 检索中预测 MSE 由损坏输入的 0.061 降至 0.011,接近无噪声检索。