跳到主要内容
检索

# AdviSD顾问自蒸馏方法

1 篇关联报道

订阅更新
  1. arXiv

    AdviSD 让 Qwen3-8B 小顾问选择性学习反馈修正,在 BFCL-v3 上比 advisor-GRPO 高出 4.2–6.4 个百分点

    该工作提出 AdviSD:用一个可训练的小顾问(Qwen3-8B)通过自然语言建议引导冻结的前沿执行模型(Gemini 3.7 Flash、Claude Sonnet 4.6),把结果奖励的 GRPO 与“有选择性”的反馈条件自蒸馏结合——由反思提出修正,再用顾问在“带建议”与“不带建议”两种上下文下对同一段已记录执行器响应的打分差幅来挑选要监督的决策,从而在 BFCL-v3 上比 advisor-GRPO 高 4.2–6.4 个百分点、在 EnvScaler 上高 3.9–5.1 分,并超过同数量的随机选择与无门控变体。

已读完全部报道