安全奖励不再只给0或1:保留Jev的概率输出并加有益性项,Llama-3.1-8B的HarmBench攻击成功率从0.287降到至多0.033
把商用安全判定模型Jev输出的有害概率直接当作强化学习奖励,而不是先二值化,并在训练前、训练中和判定模型换版后分四步校验。在Llama-3.1-8B上,概率奖励配合有益性项把HarmBench攻击成功率从基线的0.287降到最终检查点至多0.033;同一判定模型改成0/1奖励后,被自信放过的有害内容占比在两个随机种子上显著上升,触发逃逸判据。
把商用安全判定模型Jev输出的有害概率直接当作强化学习奖励,而不是先二值化,并在训练前、训练中和判定模型换版后分四步校验。在Llama-3.1-8B上,概率奖励配合有益性项把HarmBench攻击成功率从基线的0.287降到最终检查点至多0.033;同一判定模型改成0/1奖励后,被自信放过的有害内容占比在两个随机种子上显著上升,触发逃逸判据。
已读完全部报道