防御方给窃听信号下毒:梯度扰动让攻击者的系统辨识模型误差更大,且只需改动四分之一瞬态样本
核心概要
针对以神经网络做系统辨识、再据此实施隐蔽攻击的对手,防御方在诱捕环境中向被窃听的测量注入小幅扰动,使攻击者学到的被控对象模型失准。扰动由多个独立训练模型的输入梯度聚合而成,并集中在设定值切换后的瞬态段。在仿真的直流电机网络控制基准上,同等均方根幅度下,这种梯度扰动造成的最大绝对误差大于高斯噪声和伪随机二进制序列扰动,且幅度越大差距越明显;只保留25%的瞬态样本仍有效。
深度剖析
防御方不再只靠被动检测,而是主动污染攻击者用来训练辨识模型的数据,让基于神经网络的系统辨识结果失准,从而削弱其后续隐蔽攻击所依赖的模型精度。 此前的同类防护要么用切换控制阻碍闭环模型辨识,要么用高斯输入扰动提供差分隐私保证;这里改为针对被控对象本身、用梯度定向构造的投毒信号。 在仿真的直流电机网络控制系统上,对30次独立训练得到的模型统计最大绝对误差,同等均方根幅度下梯度投毒的平均最大绝对误差始终高于高斯噪声和伪随机二进制序列投毒,且随扰动幅度增大差距通常更明显。
做法是先由防御方用同一数据集、不同随机种子训练一组辨识模型,再对每个瞬态段求预测误差对输入的梯度,把各模型的梯度按样本累加并跨模型平均,得到一条通用扰动方向。 梯度指示的是让预测误差增大的输入修改方向,按目标幅度归一化后只保留绝对值最大的那部分分量,其余置零,从而把扰动压在少数最有影响的样本上。 在12种扰动配置下评估,即四种幅度与三种保留比例的组合;即使只修改25%的瞬态样本,投毒仍然有效,说明稀疏化对效果的代价很小。
启示与展望
评估在仿真的直流电机网络控制系统上进行,数据为十段各60秒、每段3001个采样点的被动窃听记录;方法面向蜜网一类诱捕环境,而非实际运行系统,因为扰动可能影响物理过程。
评估假设防御方的替代模型与攻击者模型共享相同架构、输入顺序和训练流程;隐蔽性只用扰动均方根和改动样本数衡量,而稀疏、确定且对齐设定值切换的扰动可能被结构感知的分析识别;结果衡量的是投毒模型的预测误差,并未直接评估由该模型导出的攻击的可检测性或运行影响。
