跳到主要内容
检索

# 多教师在线策略蒸馏

1 篇关联报道

订阅更新
  1. arXiv

    智能体在线蒸馏会改写ReAct习惯:ALFWorld教师把客服任务准确率从41.5%压到6.6%

    在线蒸馏把专门领域的教师能力迁移给语言模型智能体,但跨领域时也会连带改写它组织推理、动作与获取观察的方式。研究在数学、ALFWorld与客服工具任务上比较不同来源的蒸馏学生,发现代码解释器监督能把客服任务准确率从41.5%提到51.0%,而ALFWorld监督反而把它压到6.6%,并伴随大量未等用户回复就发起的工具调用。作者随后只用源域轨迹,按教师领域强化学习前后对数概率变化筛选监督位置,保留前95%位置把客服准确率从6.6%提到68.9%,代价是源域性能有所下降。

已读完全部报道