跳到主要内容
返回时间线
arXiv来源发表:

流匹配模型加一道校正:Marginal Matching 在 CIFAR-10 上以 41 次函数评估把 FID 降到 3.45

核心概要

流匹配模型沿常微分方程把噪声变成样本,但学到的流场并不精确,采样轨迹会偏离真实数据分布。Marginal Matching 在推理途中插入一个单独训练的校正模型,把样本拉向反向求解同一流场得到的边缘分布,并给出这一校正能压低 Wasserstein 距离上界的分析。在 CIFAR-10 上,以 OT-CFM 为基座、10 步 RK4 采样(40 次函数评估)时,加一次校正后 FID 为 3.45,而 OT-CFM 不加校正的 RK4 基线为 4.34。

Source-provided article image: Correcting Flows with Marginal Matching
arXiv

深度剖析

流匹配模型的采样过程多了一个可训练的校正环节:在预测步之间,一个辅助网络把当前样本推向反向流场对应的边缘分布,而不是只依赖前向积分。 此前流匹配上的预测-校正方案主要是不需要额外训练的版本,例如缓存先前结果来近似常微分方程解;扩散模型里则已有训练式校正器,但尚未移植到流匹配。 在 CIFAR-10 上,OT-CFM 基座用 10 步 RK4 采样为 40 次函数评估、FID 4.34;加入一次分数校正后为 41 次函数评估、FID 3.45,加入三次后为 43 次函数评估、FID 3.38。

校正的方向来自时间可逆性:把预训练流场反过来积分,从数据样本倒推回噪声,这条反向轨迹上的中间分布就是校正的目标。 常规预测-校正把样本拉向训练时使用的前向插值边缘分布,而这里改用反向常微分方程给出的边缘分布,因为只有后者在理想情况下精确落到数据分布。 在 CIFAR-10 上比较两种目标,分数模型朝反向边缘分布校正得到 FID 3.45(41 次函数评估),朝插值边缘分布校正得到 3.46;把全部校正步都用于插值边缘分布则使采样偏离、效果变差。

校正函数有两种实现:一个时间相关的分数模型,以及一个区分前向与反向边缘分布的时间相关分类器,后者的梯度把样本推向反向一侧。 分数模型训练时没有接触前向边缘分布的样本,分类器则显式使用两侧样本,并靠对抗训练和梯度对齐让梯度稳定、指向反向边缘分布。 在 CIFAR-10 上,分数校正对 OT-CFM 与 I-CFM 分别得到 FID 3.45 和 3.47(41 次函数评估);分类器校正对 OT-CFM 为 3.57、对 I-CFM 为 3.77(42 次函数评估),对基座选择更敏感。

启示与展望

演示范围限于图像生成:CIFAR-10 上的无条件生成,以及 ImageNet-64 上以预训练 OT-CFM 为基座的分数校正;校正模型用 UNet、参数量约为流模型的一半,训练迭代次数远少于流模型。作者提出可把流模型与校正模型联合训练作为后续方向。

方法假设流场可逆,作者明确表示这一假设在实践中无法验证,只做了经验检验;理论分析中假设已知每步的误差缩减量,实际只能对分数校正给出上界,分类器校正尚无对应的理论界。