跳到主要内容
检索

Daofu Zhang

1 篇关联报道

订阅更新
  1. arXiv

    ARoute把模型路由改成先判后调:同等成本下15个任务-成本设置平均高出最强基线4.1个百分点

    ARoute把“该不该升级到强模型”和“升级要多花多少钱”都从查询文本本身预测,在调用任何模型之前就决定用哪个模型。它用一小批成对记录训练两个轻量预测头,共享一个冻结的BERT编码器。在MMLU-Pro、LiveCodeBench、SuperGPQA和两个SWAN取值填充任务上,ARoute-Batch在全部15个任务-成本设置中取得最高平均准确率,比最强基线平均高4.1个百分点、最多高11.9个百分点,且批量完成时间最多比级联快2.8倍。

已读完全部报道