开放权重模型一改,水印证据就变:LoRA 微调把 OpenStamp 检出率压到 28.8% 与 11.6%
核心概要
开放权重模型发布后,用户仍可继续改动权重,而 OpenStamp 式验证器仍拿原始基座与标记模型比对输出。研究把每次改动写成下一词 logits 上的残差,在残差跨度受限时给出期望对数似然比证据的精确下界,并推出序列级漏检概率的高置信上界。在 Llama-2-7B 与 Mistral-7B-v0.3 上,INT8 量化与 30% 剪枝的测试真阳率保持在 85.6%–94.8%,500 步 LoRA 微调则降到 28.8% 和 11.6%。
深度剖析
水印证据的损失现在可以按改动在词表 logits 上造成的残差跨度来界定,而不必先知道具体是哪种改动。 此前对开放权重水印的稳健性讨论多集中在文本编辑、改写和自适应规避,权重被改动后验证器还能看到多少证据缺少定量刻画。 在 Llama-2-7B 与 Mistral-7B-v0.3 上,INT8 量化与 30% 剪枝的测试真阳率落在 85.6%–94.8%,与未改动标记检查点的 94.8% 和 85.4% 接近;500 步 LoRA 微调则把真阳率降到 28.8% 和 11.6%。
做法是把每个共享前缀处的改动表示成一个残差向量,它叠加在下一词 logits 上,残差跨度决定词概率最多能怎样重新分配。 残差与各词水印得分的协方差给出期望证据的一阶变化,并带一个显式的二阶余项。 在 160,000 个测试前缀上,协方差预测与实测的平均 LoRA 证据漂移方向一致,二阶余项界没有出现违例;每个模型 500 条基座续写中假阳数为零。
启示与展望
实验在 Llama-2-7B 与 Mistral-7B-v0.3 上实例化 OpenStamp 验证器,候选改动限于 INT8 量化、30% 逐层非结构化幅度剪枝和 500 步 OpenWebText LoRA 微调,生成统一采用温度 1 的原始 softmax 多项采样、恰好 64 步。
八个模型—候选组合的族式 95% 留出上界都等于 1.0,因此该认证在当前样本与矩包络下有效但数值上没有信息量;作者指出需要更大的认证集、更多种子和更多改动类型来判断证书何时变得有信息。协方差的二阶余项界在这些检查点上偏保守,LoRA 下平均绝对余项远小于允许值。实验只用一个水印种子和一次提示池重复,报告的区间只反映单次运行内的抽样不确定性。
