跳到主要内容
返回时间线
arXiv来源发表:

温度阶梯上只训一个扩散采样器:Sequential Score Sampler 在十项目标-指标对照中九项取得最低均值

核心概要

从只知归一化常数的分布反复采样时,局部马尔可夫链容易困在一个势阱里。Sequential Score Sampler 把温度作为输入,用一条温度阶梯上的加权回放缓冲区和路径空间重要性权重反复修正训练数据,只训练一个共享的基于分数的扩散提议。在五个目标上,修正后的样本在两个高斯混合上距离与能量误差最低;在 LJ-13 上最终缓冲区三项指标最低,而在 Alanine Dipeptide 上原始样本的角度误差最低、缓冲区能量误差最低。

Source-provided article image: Amortizing Tempered Sampling with Corrected Self-Training
arXiv

深度剖析

反复采样不再每次从零开始跑长链,而是把计算投入到一个可复用的提议模型上,训练后可直接从模型、其重要性修正提议或最终温度缓冲区取样本。 此前的退火重要性采样和序列蒙特卡洛靠中间分布跨越多峰,但要得到更精确的估计仍需追加采样计算;局部马尔可夫链蒙特卡洛则可能在一个盆地内充分探索却很少在盆地间移动。 在 GMM50 上,反复刷新缓冲区把原始样本的平均距离差异从固定 SMC 训练数据时的 0.398 降到 0.166;在表中十项目标-指标对照里,某一组 SSS 样本在九项上取得最低显示均值(含一次并列),其余一项为第二低。

做法是在一条温度阶梯上做带修正的自训练:模型在每个中间温度生成提议,按重要性权重重采样,再做保持该温度目标的马尔可夫链更新,然后重加权送入下一温度的缓冲区。 与按温度依次生成训练数据的渐进式方法不同,这里一个以温度为输入的模型在所有温度上联合训练,缓冲区保留最近若干轮的加权样本供多次优化步骤复用。 在 DW-4 上,去掉路径空间重要性修正后,成对距离分布两个峰仍在但相对质量失真,最终缓冲区还出现高能量长尾;去掉 HMC 更新后,重采样批次只剩少数构型反复出现,训练更慢也更不稳定。

启示与展望

实验覆盖两个高斯混合、四粒子双势阱 DW-4、十三粒子 Lennard-Jones 团簇 LJ-13 和 300 K 的丙氨酸二肽,比较对象为 TA-BG、PITA 与 AS,并附有匹配能量预算的 SMC 对照;这些设置界定了当前展示的范围。

方法依赖训练缓冲区对目标分布的覆盖:若某个模式在缓冲区中缺失,重采样无法把它找回,短链马尔可夫链也可能发现不了它,后续缓冲区会继承这一缺口并可能被反复训练强化。即使所有模式都在,集中的重要性权重也会导致有效样本量偏低、重采样后出现大量重复;自归一化重要性估计还存在有限样本偏差。初始化和反复刷新缓冲区本身有计算开销,摊薄收益取决于之后对采样器的复用程度。