跳到主要内容
返回时间线

水印审计可以被推理端抹掉:Logit Laundering让检测p值平均升513倍,版权知识仍留56.8%

核心概要

数据水印审计依赖模型输出中可检测的统计信号,而非合规的模型提供方可以在推理阶段改写输出分布来削弱这些信号。Logit Laundering在不动模型参数的前提下,用一个统计偏置估计器减去水印相关的logit偏置,并按下一词预测置信度调节抑制强度。在五个基础模型和多种主流审计方法上,检测p值平均升高513倍、信号变得统计不显著,同时相对原始基础模型保留56.8%的平均版权知识提升。

Source-provided article image: Logit Laundering: Evading Data-Use Auditing in Large Language Models
arXiv

深度剖析

数据使用审计的对抗面被摆上台面:模型提供方不必改动训练数据,只要在推理时改写输出分布,就能让水印审计看不到证据。 此前的审计研究主要在设计更强的水印嵌入与检测,对提供方主动规避的系统性考察有限;而直接篡改训练文本的做法会破坏文本本身,削弱其训练价值。 在五个基础模型(LLAMA-3.2-1B-Instruct、LLAMA-3.2-3B-Instruct、Qwen-2.5-1.5B-Instruct、Gemma-2-2B-IT、Stable-LM-2-1.6B-Chat)上,对STAMP类与放射性两类检测,检测p值平均升高513倍,信号落到统计不显著。

规避发生在解码阶段:模型先照常在有水印的版权语料上继续预训练,再在输出logit上减去一个估计出的偏置信号。 这个统计偏置估计器复用基础模型的前八层Transformer和语言模型头,在版权语料的局部片段上拟合分布偏置,同时在公共语料上被正则化为接近均匀分布。 实验用2025年出版的50本书、共4959个段落构造版权语料,与Pile公共语料混合做继续预训练,再在推理时做logit重塑。

抑制强度不是固定的:每一步解码按top-1与top-2 logit的间隔判断置信度,置信度高时抑制更强,置信度低时更保守。 固定强度的logit扰动在模型不确定的位置容易打乱候选词结构,导致生成不自然。 去掉置信度缩放、改用固定系数后,MAUVE从自适应设置的0.107降到0.018(Llama-3.2-1B),生成文本明显不自然。

启示与展望

评估限定在继续预训练设定:五个1B到3B规模的基础模型在混合了公共语料与水印版权书籍语料上更新一轮,再对STAMP类与放射性两类水印审计方法及其变体做检测。作者另提出一个探索性的检测后复核手段True-key Placebo Check,并在单本书的10个段落上做了小规模试验。

规避效果随水印强度、估计器规模、片段比例和JS预算变化,其中放射性检测在更强水印下规避余量略有收窄,但p值仍高于0.05。True-key Placebo Check只在单本书的10个段落上做过试点,作者把它定位为探索性的假阴性线索,而非成熟的防御方案。