长程自动研究不再背着对话跑:状态交给调度器,内核优化省下九成以上token
核心概要
长程自动研究里,推理量增加并不自动带来进展:智能体反复重放不断变长的对话,彼此重复工作,或在token继续消耗时停止实验。无状态语言智能体把研究状态从对话中移出,改由调度器保存候选解与实测结果,并在每次调用时重建角色专属的上下文;在软件工程、内核优化与算法设计任务上,它在每个任务都取得最佳最终结果,并以少84%以上的token达到最强内核基线的最终性能。
深度剖析
长程自动研究系统改为让智能体不携带对话,研究状态由外部调度器持有,每次调用只看到为当前角色重建的上下文。 此前的智能体框架让每个智能体维持一条长会话,把研究历史留在自己的对话里,并在重启后继续同一条会话。 在Anthropic内核优化任务上,三次无状态语言智能体运行在10亿token时全部优于九个基线运行,最差的一次为1122周期,最好基线为1191周期。
每个智能体看到什么成为显式设计选择,而不是随运行增长的对话副产品。 此前上下文随会话累积,候选解、评测结果与失败尝试混在一条历史里。 调度器为规划角色重建跨方向的证据摘要,为执行角色只提供任务、分配、保留候选与本地反馈;从共享检查点续跑时,去掉任一上下文机制都会降低平均进展。
规划角色把证据转成具体实验并分派给并行执行角色,协调开销很小。 此前并行智能体各自选择实验,可能重复实现同一功能。 规划角色消耗0.24–0.51%的token与1.20–2.29%的模型成本,对比SwarmResearch的Shepherd为8.39–10.70%的token与6.14–7.35%的成本。
启示与展望
演示范围是三类有可执行评测器的任务:FrontierSWE软件工程、Anthropic与SOL-ExecBench内核优化、FrontierCS算法设计,预算最高10亿累计token。目标模糊或评测缓慢的问题未被测试。由于长程运行成本高,多数配置只跑一次,仅Anthropic内核优化与检查点消融做了重复。比较按token对齐,成本估计不含运行与评测实验的算力。
消融改变的是每个智能体看到什么,而不是它是否跨调用保留对话。规划角色的开放问题是决策质量而非成本;在FrontierSWE上15个执行角色从未是最佳宽度,但每条线 trials 更少也可能解释这一点。最佳执行角色数量随任务、token预算与时间约束变化,更便宜的执行模型在某些任务上按成本更优、在另一些任务上不是。
