Jeva把决策从文本生成里拆出来:候选换序不再翻盘,2048个选项一次打分
核心概要
面向工具选择、文档识别这类需要直接给出答案的请求,Jeva把请求与每个候选分别编码,再用一个轻量决策模块只更新请求状态,使候选表示可以跨请求复用。在600条Choice样例的原始顺序、反转顺序和最多三种带种子的随机顺序下,Jeva的决策翻转数为零,而Jev-1.13.0、InternDecision-4B和JevK5的翻转率分别为17.00%、22.67%和26.17%。在3,080条BANKING77请求上,它的空答案检测AUROC为98.66%,高于KEV-BF16的93.61%。
深度剖析
系统一模型(直接输出选择、判断或分数而不生成推理文本的模型)现在可以做到候选换序不改变决策,并在候选集扩大时不必重设输出空间。 此前的开源系统一模型把请求和候选拼成一段文本,再从答案词的logits或任务专用预测头读出决策,候选内容因此被放进请求相关的计算里,候选顺序也会影响预测。 在600条Choice样例上,按原始顺序、反转顺序和最多三种带种子的随机顺序评测并按候选身份对齐后,Jeva的翻转数为零,原始顺序与全顺序准确率同为76.67%;Jev-1.13.0、InternDecision-4B和JevK5的翻转率分别为17.00%、22.67%和26.17%。
Jeva用一个共享语言编码器分别把请求和每个选项编码成向量,再由紧凑的决策模块只对请求状态做细化,选项向量在一次前向中保持不变。 候选之间的相互影响不再靠独立打分表达:单个决策块就能在候选集变化时反转两个保留选项之间的偏好,而独立打分器做不到这一点。 在500条ToolRet请求上,Jeva在一次决策头前向中给完整候选集打分,聚合准确率为78.40%,递归选择的JevK5为64.00%;在候选数从32扩展到2,048的83条查询上,Jeva的全尺寸准确率为69.88%,比JevK5高12.05个百分点。
答案缺失与候选之间的不确定被分开建模:一个覆盖率门控在null与候选集之间分配概率,候选集内部再单独竞争。 对候选分数做归一化只能说明哪个候选更靠前,无法说明是否存在可接受的候选。 在3,080条匹配的BANKING77请求(16个候选,其中588条无答案)上,Jeva的空答案检测AUROC为98.66%,KEV-BF16为93.61%,InternDecision-4B为84.27%,JevK5为79.44%;在5.02%的假阳性率下检出93.88%的无答案请求。
选项侧的语义向量和各层投影可以跨请求缓存,新拼装的候选集也能复用,而请求编码与决策细化仍逐请求执行。 把候选放进请求相关计算时,换一个问题或重新组合候选就要重新处理它们的联合上下文。 在50条匹配的MLDR查询上,完全复用选项时混合缓存的p50延迟从2,102.0毫秒降到75.1毫秒;在共享候选库上,Typed Decisions的p50从93.1毫秒降到46.6毫秒(精确集合缓存)和46.7毫秒(混合缓存),避免99.2%的候选行编码,且各条件下决策不变,最大绝对概率差为0.00736。
启示与展望
评测覆盖Typed Decisions、BANKING77、MASSIVE、三个Mind2Web切片、ToolRet和MLDR,使用Qwen3.5-4B骨干加一个决策块,延迟在单张H200上同步计时;这些结论对应的是上述候选选择、空答案判断与打分设定。
置换不变性与缓存等价性的证明假设精确算术,浮点归约和批处理变化可能扰动接近并列的分数;并列最大时若实现返回第一个最大索引,换序后未必选中同一个并列候选。缓存等价还要求编码器与投影权重、分词器、模板、长度策略和数值配置保持不变,参数更新后必须使记忆失效。
