DaisyRose-27B用1200个任务训练18天:终端智能体通过率从5.6%升到12.0%
核心概要
RadixArk发布首个模型DaisyRose-27B,在Qwen3.8-27B基础上用强化学习训练,训练数据只有约1200个精选的长程智能体任务,在144块H200上用了18天。它在Terminal Bench 4.1上的pass@1从5.6%提高到12.0%,在列出的其他推理、指令遵循和编程基准上也都有提升。发布方称其内部训练后端把每块GPU峰值算力中用于有效训练的比例做到37%,而基于Megatron的开源训练器在可比运行中为16%,因此同样训练所需GPU时间少57%。
深度剖析
DaisyRose-27B是RadixArk的首个模型,以Qwen3.8-27B为底座,用强化学习在长程智能体任务上训练,单次会话最长可达100万token。 训练集只有约1200个精选任务,整个发布训练在144块H200上历时18天完成。 在Terminal Bench 4.1上,pass@1由Qwen3.8-27B的5.6%升至DaisyRose-27B的12.0%,是发布方列出的各项基准中提升最大的一项。
训练任务与Eigent AI合作构建,起点是其在机器学习、软件工程、科学等领域的大量任务池,双方共建数千个候选,约1200个进入最终训练集。 筛选按三条标准进行:每个任务针对原模型实际犯下的错误,需要多个相互依赖的步骤,并且必须真正解题才能通过。 每次尝试在沙箱中最多运行1.5小时,涉及100次以上工具调用和超过25.6万输出token;发布方逐题对照模型尝试进行复核,把可被绕过或存在设计缺陷的任务修正或删除。
训练使用RadixArk开源的强化学习框架Miles,采用完全异步模式,智能体持续工作与模型学习互不等待。 128块H200负责在智能体任务上推理,另外16块运行训练器并从轨迹中学习,每一步之后更新后的模型再分发到那128块GPU。 发布方称其内部训练后端在本次发布中达到37%的模型FLOPs利用率,而基于Megatron的开源训练器在可比运行中为16%,对应同样训练所需GPU时间少57%;端到端按智能体任务耗时计,144块GPU上约每秒16800 token,开源训练器在同一批GPU上约8300。
每次训练尝试都在沙箱中运行,沙箱是任务环境的一份全新副本,智能体在其中执行命令、编辑文件并接受评分。 该服务基于开源项目AgentENV构建,发布方也向其回馈修复。 9月中旬至11月中旬,该项目运行了约94.4万个沙箱,并发最高1566个;服务从1台机器扩展到最多12台,期间完成10次升级且几乎都在训练进行中;九周内99%的沙箱创建成功,10月下旬以来该比例超过99.95%。
启示与展望
已展示的范围是:以Qwen3.8-27B为底座的27B级模型,在约1200个长程智能体任务上训练18天,评测覆盖Terminal Bench 4.1、Terminal Bench 2.1、DeepSWE v1.1、SWE Bench Pro v2、HLE(纯文本)、IFBench和GPQA Diamond。发布方建议用SGLang配合DSpark投机解码服务该模型,并指向SGLang cookbook中不同GPU与检查点格式的启动配置。
发布方说明基准分数取BF16与FP8两次运行中较高者,两者在都评测过的项目上相差不到1分,对比来源与评测设置放在模型卡中。训练效率方面,37%的MFU与57%的GPU时间节省来自发布方内部后端与基于Megatron的开源训练器在可比运行上的对照;混合专家模型上6.2倍与超过10倍的收益分别对应Qwen3.6-35B-A3B和约3000亿参数的GLM-5.3-Flash,并非DaisyRose-27B本身。
