跳到主要内容
返回时间线

保形预测区间为何偏宽有了逐样本解释:ConformaDecompose把校准支持逐步局部化,宽度最多收缩约1%

核心概要

ConformaDecompose把保形预测的单一全局校准阈值拆成一条逐样本的局部化轨迹:从全量校准集出发,按模型感知的相似度对校准簇逐步降权,只接受使区间宽度不增的步骤,从而把区间宽度分成可经局部化消除的部分与局部化后仍保留的部分。在多个基准数据集和真实数据上,可约宽度的绝对值与模型局部不稳定性代理高度相关,而可约比例随任务变化;与局部及加权保形基线相比,区间宽度最多收缩约1%,同时保持接近名义的覆盖率。

Source-provided article image: ConformaDecompose: Explaining Uncertainty via Calibration Localization
Figure 1 · 第 3 页

深度剖析

保形预测给出的区间宽度不再只是一个数字,而是可以逐样本追问:这段宽度里有多少来自与测试样本行为无关的校准区域,有多少在局部化之后仍然存在。 此前的保形预测用一个全局校准阈值汇总整个输入空间的残差,归一化保形预测、保形分位数回归等变体让区间宽度随样本变化,但不确定性仍是一次性算出的结果,看不出校准支持如何贡献于宽度。 在电厂、帕金森遥测、翼型自噪声和鲍鱼等基准数据集以及Craigslist二手车真实数据上,可约宽度的绝对值与模型局部不稳定性代理的相关系数通常大于0.9,而可约比例的对应相关从负值到强正值不等。

做法是保留全部校准样本,只改变它们的权重,让与测试样本行为相近的校准簇保持单位权重,其余簇被压到一个小常数。 每个校准点被映射到同时包含输入位置、模型预测和预测尺度的模型感知空间,在该空间中聚类并按与测试样本的相关性排序,而不是直接丢弃样本或从严格局部子集重新校准。 局部化用贪心接受—回退规则推进,只接受区间宽度不增加的步骤,因此得到一条宽度单调不增的轨迹;实验在随机森林和岭回归两种基模型、K=5与K=8两种聚类粒度上对全部测试样本运行。

与局部和加权保形基线相比,这套分解在保持接近名义覆盖率的同时给出可解释的宽度构成。 部分基线在帕金森数据上表现出的区间收窄主要来自激进压缩区间、削掉了不可约噪声,而不是处理可约的认知不确定性。 跨数据集的区间宽度收缩最多约1.0%,覆盖率保持在接近名义水平。

启示与展望

这套分解面向回归任务,在随机森林和岭回归两种基模型、K=5与K=8两种聚类粒度上,于电厂、帕金森遥测、翼型自噪声、鲍鱼等基准数据集和Craigslist二手车定价数据上做了演示与评估;局部化后的区间只用于解释性分析,不附带新的保形保证。

可约比例的相关性随数据集和粒度在负值到强正值之间变化,作者将其解释为不可约成分与局部化分辨率的稀释效应;可约性模式依赖模型导出的不确定性代理和基于聚类的局部化,所有对齐关系都是关联性的而非因果性的,方法也不捕捉模型设定错误或容量不足带来的不确定性。