跳到主要内容
检索

# 自回归推演

5 篇关联报道

订阅更新
  1. arXiv

    颗粒流仿真换到粗图上算:HCG-GNN训练快6.47倍,万颗粒2秒释放31秒算完

    颗粒流的分辨率仿真长期受限于在整张颗粒图上反复传递信息。HCG-GNN把7步消息传递中的5步移到两层占据网格粗图上,在斜面颗粒流基准中保持与常规颗粒级GNN相当的多步精度,训练快6.47倍、GPU显存少46.2%;在最多5000颗粒上训练的模型用31秒预测了10000颗粒的2秒释放,同一基准下DEM需2000秒。

  2. arXiv

    SUMNO把多重网格V循环铺成前馈网络:9.4M参数在七个流动设置中五个最优

    流体代理模型长期沿用视觉领域的U形多尺度结构,但其中的重采样、跳连融合与归一化并非为流场设计。SUMNO把多重网格V循环在空间上展开成前馈U形网络,用无参数降采样与双线性上采样对应限制与延拓,并在最粗层用按各轴周期性分别处理的移位窗口注意力耦合全域。在四个流动基准的七个设置中,它在五个设置上最优、另两个居第二;在Pinball与RBC上把10步自回归MSE相对最强基线降低约30%,而参数量为9.4M。

  3. arXiv

    扩散语言模型也能向自回归老师学:JustOPD让Dream-7B在任意顺序解码下提升数学推理

    自回归模型与扩散语言模型的生成顺序不同,前者严格从左到右,后者可任意顺序去噪,使前者的逐词监督难以直接用于后者。JustOPD在训练时强制扩散学生按从左到右的顺序生成轨迹,让Qwen3-14B老师能在每个中间状态上给出监督,推理时学生仍保留任意顺序解码。以Dream-7B为学生、Qwen3-14B为老师在GSM8K和MATH500上测试,多种散度下成绩均高于基座模型。

  4. arXiv

    EVO-WAM 让世界动作模型从自生成视频中自训练,RoboTwin 未见任务成功率从 26.9% 升至 68.0%

    该工作提出 EVO-WAM 框架,通过状态预测与锚定多帧上下文实现无外部执行反馈的自回归 rollout,再用视觉语言模型筛选完成任务的前缀、用逆动力学模型校验视频-动作一致性,并迭代自训练世界动作模型;在 RoboTwin 2.0 的七个未见任务上把 Cosmos3 平均成功率从 26.9% 提升到 68.0%、DreamZero 从 28.5% 提升到 46.4%,在真实世界三个长程复合任务上把 Cosmos3 从 20.0% 提升到 76.7%。

  5. Machine Learning Earth

    ArchesClimate-SSP 用能量分数损失训练生成式气候模拟器,在未见的 SSP5-3.4 上取得 0.9739 K 陆地温度 RMSE,优于 MESMER-M 的 1.0963 K

    该研究提出 ArchesClimate-SSP(AC-SSP),在 ArchesWeather 架构上以能量分数损失加变差函数损失训练,并以强迫浓度(CO2、CH4、N2O、六种气溶胶、臭氧)为条件,用 IPSL-CM6A-LR 的 2015-2100 年月度数据训练后自回归生成未在训练中出现的 SSP 情景;在留出的 SSP5-3.4 超调情景上,其 2090-2100 年陆地表面温度 RMSE 为 0.9739 K,低于统计模拟器 MESMER-M 的 1.0963 K,且年际变率 0.6050 比 MESMER-M 的 0.6375 更接近 IPSL 目标 0.5166。

已读完全部报道