跳到主要内容
检索

# 模拟退火

2 篇关联报道

订阅更新
  1. arXiv

    推理模型强化学习训练不再只调执行:RPEG把流水线结构也纳入搜索,256块GH200上相对ReaL最高提速2倍

    推理语言模型的强化学习训练每步要串起生成、评估、训练多个大模型,现有系统通常只优化其中一部分。RPEG把流水线结构(有界异步、actor–critic共享)与执行方案(阶段融合、细粒度调度、多维并行)放进同一张图里联合搜索,并配一个经硬件校准的解析性能模型。在最多256块GH200上,其运行时相对ReaL端到端最高提速2倍,相对verl每步延迟最高降低2.48倍,硬件利用率最高提升30%。

  2. arXiv

    面向耦合语义例程生成的LLM上下文动态适配

    该工作提出“动态上下文适配”:一个由验证智能体从执行轨迹中提取结构化诊断反馈、生成智能体每轮提出多个候选、并以知识图谱提供语义约束、以模拟退火进行非贪心选择的验证—生成循环,用于缓解其称为“静态绑定”的LLM代码生成局限;在八个问题中,该方法在300与600次评估时于七个问题上优于零样本、Reflexion与OpenEvolve(p<0.01),在1000次评估时于主要动机问题(跨耦合优化)取得最佳分数(0.694 对 0.681,p=0.019,d=0.52),消融显示结构化执行反馈是主要驱动因素。

已读完全部报道