跳到主要内容
检索

# 对抗性线索攻击

1 篇关联报道

订阅更新
  1. arXiv

    加一个冒号即可让Jev判错:请求呈现方式决定最终答案评分的假接受率

    该研究检验结构化评判请求的呈现方式是否改变候选文本编辑的效果:在200个未使用过的DROP与GSM8K来源簇上,给候选答案中随机字母后加一个冒号,在排序JSON键呈现下使Jev的假接受率从1.0%升至26.0%(三标签)和从3.0%升至26.5%(四标签),而在插入顺序呈现下两种候选变体均被拒绝;Jev在两种评分配置和两种呈现下都通过了预设控制阈值,GPT-6 Sol未观察到提示条件下的假接受。

已读完全部报道