一步流采样丢掉不确定性:Isthmus 只改时间采样器,把脑部 MRI 校准拉回多步水平
核心概要
一步流映射被当作后验采样器使用时,样本的离散程度就是它要携带的不确定性,但标准训练下的一步采样器会丢掉这份离散度,并与同一网络的 64 步采样结果脱相关。Isthmus 把训练用的时间对沿三角形中连接一步采样对与对角线的整条边铺开,使一步映射的误差被自洽残差约束。在脑部 MRI 上,一步采样的校准回到 0.96、与多步样本的相关回到 0.93,且训练延长到三倍时这一致性仍然成立。
深度剖析
一步流映射的采样器会丢掉模型本身携带的不确定性,并与同一网络的多步采样结果脱节。 同一网络的 64 步采样器在校准指标上接近精确后验,而标准配方的一步样本已经欠离散,校准值只有 0.67,与 64 步样本的相关为 0.58。 在 IXI 脑部 MRI 切片上,用同一套权重分别做一步和 64 步采样,64 步采样器在多个方法上都接近校准,一步采样则明显偏离。
问题出在训练把起止时间对放在时间三角形的什么位置,而不在损失函数本身。 只有对角线上的时间对能从数据拿到目标,一步采样所用的时间对位于落点边上,标准采样器在这条边上不放任何训练对,因此目标函数既不能唯一确定一步映射,也无法锚定它的训练。 把同样比例的训练对分别放到角点、发射条带、角点方块和落点条带上,只有覆盖落点边的方案同时做到与 64 步一致且校准,在 IXI 上校准为 0.96。
Isthmus 是一种只改时间采样器的混合采样方式,网络、损失和推理代码都不动。 默认做法是以一定概率把训练样本的时间对替换为从均匀起点直接落到数据上的跳跃,这些新时间对沿用原来的均值流目标训练。 在脑部与膝部 MRI、CelebA 人脸修复、CIFAR-10 和 ImageNet 无条件生成上,同一修复在多种流映射目标下都改善了一步采样,且每次迭代的计算量不变。
启示与展望
演示范围集中在后验采样与生成任务:IXI 脑部 MRI 切片、fastMRI 膝部数据、CelebA 人脸修复,以及 CIFAR-10 和 ImageNet 上的无条件生成,均使用条件 U-Net 与均值流损失训练。读者对象是使用少步流模型做采样或逆问题的研究人员与工程师。
桥接只约束一步映射的误差,本身并不校准样本;离散目标如 shortcut 模型的步长倍增不在这一分析范围内。对于在终点时间上求导的目标,桥接边会换到发射边,放错边会让一步方差涨到 64 步的约 2.68 倍。
