跳到主要内容
返回时间线
arXiv来源发表:

随机轨迹生成不再只做一维:SINN 用投影密度约束联合分布,耦合振子基准上联合密度误差随投影帧增加单调下降

核心概要

统计信息神经网络(SINN)此前只在一维随机过程上验证过,扩展到多维时,分量之间的联合分布无法靠各自独立训练的一维模型复现。多维 SINN 用若干一维线性投影的密度来约束联合分布,并用自适应损失权重平衡多类统计目标;在两耦合 Duffing 振子基准上,联合密度误差随投影帧数增加而单调下降,且该误差不参与训练与选模。

Source-provided article image: Learning and Generating Time Trajectories of Multidimensional Stochastic Processes
arXiv

深度剖析

多维随机过程的轨迹生成不再需要直接估计高维概率密度。SINN 改为用一组沿选定方向的一维投影密度来约束分量间的联合分布,使联合分布信息以可计算的方式进入训练目标。 此前的 SINN 只在一维非马尔可夫过程上演示,独立训练的一维 SINN 无法复现分量间相关与高阶交叉统计;直接估计多元概率密度又随维度变得计算困难。 在两耦合 Duffing 振子基准上,联合密度相对误差不进入训练目标也不参与选模,其随投影帧数从仅坐标帧增加到完整帧集在每个耦合强度下单调下降。

多类统计目标不再靠人工设定固定权重。每个统计族配一个可训练的正标度参数,与网络参数一起优化,使各族的相对贡献在训练中自动调整。 多维情形下统计目标数量大增,且各族优化敏感性与收敛行为不同,固定权重难以选取。 在耦合强度 0、0.5、1、2、4、8 上各配置共 70 次运行中,启用与不启用损失平衡均有 66 次满足验证判据;启用后保留检查点的族间验证损失比离散度中位数在每个非零耦合强度下更低。

验证损失不再被当作绝对精度来读。参考归一化把生成系综与验证目标的统计差异,除以两个独立目标系综之间的有限样本差异,得到无量纲比值。 统计量由有限系综估计,即使两个来自同一分布的独立系综也会产生非零差异,验证损失无法单独解释。 参考系综本身未出现大于 10 的比值,因而以 10 作为验证失败的实用阈值;在 FPU 与格点 Lotka–Volterra 应用中,验证成功与失败的区分在独立最终评估下大体保持。

启示与展望

演示范围限于二维与三维目标过程:耦合 Duffing 振子基准、100 粒子 FPU 链上两个与三个空间分离位置的粗粒化观测,以及格点 Lotka–Volterra 模型经动力学蒙特卡洛得到的猎物与捕食者密度。读者对象是需要大量随机轨迹系综的模拟与代理建模研究者。

有限个投影方向不能唯一确定完整多元分布,训练目标未充分约束的时间结构不保证被复现;二维方向集只保证七阶以内联合累积量可辨识,三维方向集只保证三阶以内。