跳到主要内容
检索

# 聊天结构排序器

1 篇关联报道

订阅更新
  1. arXiv

    用聊天结构挑位置,只解释5%的token就能保住几乎全部威胁识别成功率

    该研究在4个模型、4个审计数据集上生成约470万条自然语言自编码器(NLA)解释,比较13种单次前向传播即可算出的位置打分信号与仅依赖聊天结构的排序器,发现聊天结构在14个模型-数据集组合中的12个里AUROC高于最佳单一信号,且在4个数据集中的3个上只解释5%的位置就能保留接近全量解释的审计成功率,并发现预训练verbalizer无需额外训练即可读出微调后模型刻意隐藏的词。

已读完全部报道