跳到主要内容
返回时间线
arXiv来源发表:

4B小模型只学4千条真实办公任务,GDPval通过率51.0%反超235B大模型

核心概要

浙江大学与百度推出Agent-R2,一套从真实来源合成办公任务训练数据的流程:它从1万条网页语料候选中筛出4千条任务,每条配真实多格式附件和细粒度评分标准。用这批数据经监督微调与按评分标准的强化学习训练出的Agent-R2-4B,在GDPval上Pass@1为51.0%,高于Qwen3-235B-A22B-Thinking-2507的48.0%;在OfficeQA上为14.8%,高于后者的13.8%。

Source-provided article image: Agent-R^2: Scaling Agents for Realistic Productivity Work via Real-Source Data Synthesis
arXiv

深度剖析

训练数据不再由人工编写工作流或由大模型凭空生成文件,而是从网页语料中挖出真实职业工作流,再检索并核验公开文件作为附件,使任务贴近真实办公场景。 此前的智能体训练数据多只覆盖单一能力,例如指令遵循、文档问答或单一类型文件生成,缺少同时覆盖真实工作目标、跨文件证据、专业流程执行与交付物约束的端到端监督。 在1千条同源任务的对照中,用真实文件训练的SFT模型GDPval Pass@1为43.3,用合成文件为41.4;真实文件对应的专家轨迹平均多出2.54次工具调用(20.4对8.0)。

Agent-R2-4B以Qwen3-4B-Thinking-2507为底座,先在3千条任务上做监督微调,再在1千条不重叠任务上用评分标准做强化学习,最终在GDPval全集上Pass@1达到51.0%。 同一底座模型在GDPval全集上的Pass@1为32.4%,仅做监督微调的Agent-R2-4B-SFT为45.3%。 在GDPval全集上,Agent-R2-4B的51.0%高于Qwen3-235B-A22B-Thinking-2507的48.0%和Qwen3-VL-235B-A22B-Thinking的49.7%;在域外OfficeQA上,它把底座从2.2%提升到14.8%,高于Qwen3-235B-A22B-Thinking-2507的13.8%。

训练后的智能体减少了“捷径行为”,即尚未充分取证、构建或核验就产出表面像样的交付物,转而进行更持续的探索。 底座模型平均只做6.7次工具调用,在构建阶段有55.0%的情况在错误未修复时就写出交付物,交付物中可追溯数字占比为31.2%。 在全部220个GDPval任务上,Agent-R2-4B的交付物复查率为95.8%、错误未修复即写出的比例为11.0%、数值错误修复率为85.7%、可追溯数字占比为38.8%,任务完成率为90.9%。

启示与展望

演示范围是沙箱环境中的办公类生产力任务,附件为PDF、docx、xlsx、pptx等真实公开文件,评测集中在GDPval与OfficeQA两个基准;非办公类交付物(音频、视频等)被作者列为不在主要关注范围内。

GDPval评分依赖大模型裁判,单任务分数在重复评测间有波动,中位绝对差为3.2和3.1分,但聚合分数基本稳定;人工抽查100条合成任务中,工作流与问题完全对齐的比例为86%,任务可行性为85%。