不规则时间序列生成不再一次填补:PSLR把填补与生成器放进同一循环,判别分数较最强基线降59%
核心概要
不规则时间序列生成通常先把缺失值一次性补齐、冻结后再训练生成器,PSLR把这一步改成与生成器共同演化的蒙特卡洛EM循环:每轮从当前生成器后验采样完整序列,再在其上重训生成器。由于扩散先验工作在二维提升表示、观测却在时间序列空间,PSLR用算子一致条件化、不确定性保留和流形一致性三条约束把后验采样接到两个空间之间。在十个数据集、四种缺失机制上,其判别分数、预测分数、Context-FID和特征相关误差分别较最强基线改善59%、15%、73%和71%。
深度剖析
不规则时间序列的规则生成被重新表述为一个闭环训练问题:缺失值的填补不再是训练前的一次性预处理,而是随生成器一起迭代更新。 此前的做法是开环的“补完即冻结”:预训练填补器对每条不完整序列只运行一次,其补全结果被固定下来用于训练生成器,填补器此后不再获得生成器的任何反馈。 在十个数据集、四种缺失机制(标准时间戳掩码、连续块缺失、逐单元异步缺失、连续时间分数重采样)上,该方法在判别分数、预测分数、Context-FID和特征相关误差四项指标上分别较最强基线改善59%、15%、73%和71%。
闭环通过交替两步实现:E步从当前生成器的后验中采样缺失值,M步在这些补全序列上按标准扩散去噪目标重训生成器。 M步与在完整数据上训练图像扩散生成器相同,不需要掩码损失、辅助填补头或单独的条件生成器;与标准训练的唯一差别是每轮之间用当前生成器刷新补全训练集。 消融在Energy、Weather、Stock三个数据集上比较平均判别分数:确定性点填补基线为0.218,换成随机填补器CSDI后为0.095,只做一次采样并延长训练为0.115,完整闭环为0.027,干净数据上界为0.006。
为在两个空间之间做后验采样,PSLR要求条件化经由真实观测算子、保留完整后验协方差、并把样本投影回有效提升表示构成的子空间。 现成的扩散后验采样器都假设观测算子作用在模型自身空间;直接搬到提升表示上会用到错误的图像空间掩码、把多峰后验压成均值、并让样本漂出有效流形。 去掉三条约束中的任意一条都会使平均判别分数变差:仅用朴素单空间采样器闭环为0.087,去掉算子一致条件化为0.038,去掉不确定性保留为0.047,去掉流形一致性为0.056,三条齐备为0.027。
启示与展望
演示范围是十个公开时间序列数据集上的四种缺失机制,训练只用被损坏的观测,评估则把无条件生成的样本与完整观测数据比较;方法面向需要从不规则观测生成规则序列的研究与工程场景。
当整段时间戳被丢弃时,观测只能确定短窗口内的边缘分布,模型可能拟合观测却仍偏离真实分布;EM只收敛到局部最优,最终解依赖初始化;运行时间约为最快的单遍扩散基线ImagenI2R的水平,并不属于最便宜的计算档。
