PISA-E把集成路由变成逐提示决策:质量优先时宏平均任务表现高出最强对手2.09个百分点
PISA-E把大模型集成的成员组合与成员数量都放到推理时按提示决定,并复用PISA对单个模型能力的估计来预测集成成功率,无需为不同模型组合单独训练。在四个路由基准上,质量优先时它的宏平均任务表现比最强集成对手高2.09个百分点(分布内)和2.87个百分点(分布外);在选定的低成本工作点上,它同时把平均推理成本降低约36%和25%。
PISA-E把大模型集成的成员组合与成员数量都放到推理时按提示决定,并复用PISA对单个模型能力的估计来预测集成成功率,无需为不同模型组合单独训练。在四个路由基准上,质量优先时它的宏平均任务表现比最强集成对手高2.09个百分点(分布内)和2.87个百分点(分布外);在选定的低成本工作点上,它同时把平均推理成本降低约36%和25%。
路由推理模型时,每个查询要写多少 token 事先并不知道,而多数路由器按固定或中位长度给候选模型定价。一种做法是在一个冻结的小模型上读取提示的预填激活,同时预测各候选模型的答对概率与输出长度;在九个数据集中的八个上,按预测长度定价比按中位长度定价在同等准确率下少花 9% 到 33%,最多达到完美知道每个查询成本所能省下部分的 69%。
多轮智能体的模型路由被放到用户轮次边界上考察:路由器在每一轮开始前决定整轮由便宜还是昂贵模型执行。在同等把约两成轮次交给便宜模型的卸载率下,能看到会话历史的路由器在SheetCopilot上通过率28.3%,只看到当前请求的同一路由器为25.0%,差距3.3个百分点,且前者与全程使用昂贵模型相差不到1个百分点。研究还给出缓存分析:向下切换(昂贵转便宜)约两次调用即可收回缓存代价,向上切换在评测条件下无法回本。
SCRouter把大模型路由的质量拆成普通查询的效用与安全敏感查询的安全两项,按查询分别加权,在自建基准上把随机选择到逐查询最优之间的差距补回60.9%,比此前最好的R2-Router高12.9个百分点。
SWAP 把机器人策略路由建模为离线强化学习问题,用 IQL 训练一个路由 critic,在每个动作块之后根据当前观测从多个预训练 VLA 策略中选出预期长期回报最高者;在真实 DROID 桌面操作上,成功率从最佳单一策略的 63.3% 提升到 96.7%,成功轨迹的平均动作步数从 269 降到 193(减少 28.3%),并在 LIBERO 与 LIBERO-Plus 仿真中优于固定策略与随机路由。
该工作把语义熵用作小模型到大模型升级路由的信号,在三个基准和两个模型家族上测试,发现GSM8K上语义熵能可靠区分小模型错误(AUROC 0.871)并在等成本下比随机升级最多提升九个百分点,而合成算术上看似同样强的结果被一个仅凭题面难度、不含任何模型的正则规则几乎完全匹配;论文据此提出一套检查清单,包括难度基线、三种升级目标、oracle余量预检、逐次生成成本核算,以及一个可在实验前预测检索式捷径是否失效的难度探针,并提前预测了AUROC从0.908跌至0.518。
该工作提出 RouteFM,把大语言模型路由从针对单一查询分布与候选池的“局部拟合”改写为“预训练一次、随处路由”的基础模型范式:通过跨异构路由环境的片段式预训练学习一种可复用的、以目标查询为条件的候选比较能力,候选模型仅以匿名行为证据(历史查询嵌入、观测质量、归一化相对成本)表示,不暴露模型名称或身份嵌入;推理时路由器保持冻结,仅靠上下文即可适配新领域、新模态、新候选池与更小的上下文预算,在排除于预训练之外的 MMR-Bench 上以每个候选八条观测超过最强非 RouteFM 基线 2.23 质量分。
该工作把大模型路由重新表述为面向覆盖率的子集选择问题,用行列式点过程同时刻画模型能力与模型间冗余,并通过失败集边缘化的训练目标直接优化“至少一个被选模型答对”的概率,在RouterEval的中池(3811个候选模型)与大池(5000个候选模型)设置上取得更高的平均Success@10(0.8632与0.9914)和更高的子集多样性,同时用自适应贪心停止规则按查询难度决定子集大小。
SeLMRoute 把 LLM 路由拆成三步——先用决策模型对查询做 16 个可解释语义判断并保留概率分布形成 40 维语义状态,再用轻量监督回归器预测各候选模型表现,最后套用部署目标;在 LLMRouterBench(15 个数据集、20 个候选模型、11,481 条查询)上平均准确率 72.08%±0.45,分组五折折外评估 72.64%,高于最强固定候选的 69.23%,并在 13 模型性能-成本设置中五个分组全部取得正向 PerfGain(均值 2.66%)。
该工作提出 SaveRouter 稀疏监督路由框架,通过自适应选取信息量大的查询—模型反馈并跨相关查询共享能力信息,在四个路由基准上仅用约 33–41% 的可用训练反馈即保持有竞争力或更好的路由质量,并把盈亏平衡部署量相对最快的传统全监督路由降低约 1.9–9.5 倍。
已读完全部报道