跳到主要内容
检索

# 集成之集成两层不确定性估计

1 篇关联报道

订阅更新
  1. arXiv

    黑盒也能拆开大模型的不确定:两级集成把“问题含糊”和“知识缺口”分开

    大语言模型的不确定性此前只能压成一个一致性分数,无法说明模型是没听懂问题还是不知道答案。两级集成把同一提示的随机解码作为内层、把保持语义的改写作为外层,在句向量空间用总协方差定律精确拆出偶然不确定性与认知不确定性,且只需黑盒采样。在五个短问答基准和四个指令微调模型上,它与强白盒基线相当,并在配对干预中让两类不确定性分别响应提示歧义与知识缺口。

已读完全部报道