跳到主要内容
返回时间线
arXiv来源发表:

黑盒也能拆开大模型的不确定:两级集成把“问题含糊”和“知识缺口”分开

核心概要

大语言模型的不确定性此前只能压成一个一致性分数,无法说明模型是没听懂问题还是不知道答案。两级集成把同一提示的随机解码作为内层、把保持语义的改写作为外层,在句向量空间用总协方差定律精确拆出偶然不确定性与认知不确定性,且只需黑盒采样。在五个短问答基准和四个指令微调模型上,它与强白盒基线相当,并在配对干预中让两类不确定性分别响应提示歧义与知识缺口。

Source-provided article image: Black-Box Uncertainty Quantification for Large Language Models via Ensemble-of-Ensembles
arXiv

深度剖析

黑盒调用的大语言模型现在能给出两类不确定性:来自提示本身含糊的偶然不确定性,以及来自模型知识不足的认知不确定性,而不再只有一个笼统的一致性分数。 此前的黑盒方法把输出波动压成单一标量,能标记不可靠却无法说明原因;贝叶斯方法与深度集成原则上能拆分两类不确定性,但在数十亿参数规模上计算不可行,还需要模型内部访问权限。 在五个短问答基准和四个指令微调模型(LLaMA-3 与 Qwen2.5 两个家族、各两个规模)上,该方法与强白盒基线相当;在相同生成预算下,它在错误排序上与领先的单层黑盒方法持平,同时给出两类不确定性的拆分。

做法是在两个层级上采样:同一提示反复随机解码构成内层,保持语义的改写构成外层,然后在句向量空间里衡量输出的离散程度。 总协方差定律把总波动精确分成扰动内部的波动与扰动之间的均值差异,前者对应偶然不确定性,后者对应认知不确定性;内层样本均值本身带有偏差,闭式修正项把它扣除。 外层改写由离线改写池加嵌入空间高斯噪声就近选取,内层在固定部署参数下随机解码;在 AmbigQA 上补充澄清使偶然不确定性显著变化,在 Natural Questions 上补充证据使认知不确定性显著变化,而固定提示的一致性基线在澄清后统计上不变。

启示与展望

演示范围是固定模型权重下的短问答任务:五个短问答基准、四个指令微调模型,外加 Natural Questions 长答案划分上按原子声明打分的可行性试点;配对干预在 AmbigQA 与 Natural Questions 上各针对一个不确定性来源,分数层面的对照主要在 LLaMA-3-8B 上完成。

估计量针对的是固定权重下的扰动总体不确定性,它与贝叶斯参数不确定性的对应依赖局部线性、局部高斯后验和语义覆盖三个条件,这些条件以诊断量形式测量而非保证成立;自动改写可能引入语义漂移而抬高扰动间方差;不确定性估计继承句编码器的表示几何与盲点;嵌套采样每问需要更多解码,成本高于单层基线;长答案试点未做人工核验,也未检验评判模型对生成模型家族的偏好。