智能体交接不再只传答案:LProp把候选答案的隐状态一并传下去,八种设置里推理token最少
核心概要
大模型智能体把中间判断交给下一步时,若只传答案不传不确定性,后续步骤会把试探性结论当成事实。LProp 不再传递标量分数或冗长文字说明,而是把每个候选答案的隐状态表示连同概率质量一起交接,并用新到的证据在隐空间里修正继承下来的信念。在 BoolQ、StrategyQA、MMLU 数学与 HotpotQA 上,以 Qwen3-8B 和 Mistral-7B-Instruct-v0.3 为骨干,它在全部八种设置中取得最高 AUROC、AUARC 与 F1,同时平均推理 token 用量最低。
深度剖析
智能体在步骤之间交接判断时,现在可以连候选答案各自的隐状态一起传下去,而不只是传一个置信度分数或一段文字说明。 此前传递语义熵、逐字置信度这类标量分数,只表达不确定程度,丢掉了后续修正所需的备选假设信息;改传结构化文字描述又会随步数累积成越来越长的历史,抬高 token 成本与推理时间。 在 BoolQ、StrategyQA、MMLU 数学与 HotpotQA 四个任务、Qwen3-8B 与 Mistral-7B-Instruct-v0.3 两个骨干共八种设置上,LProp 的 AUROC 全部最高,相对各设置最强基线的提升幅度在 0.0816 到 0.2752 之间。
新证据到达时,继承下来的答案分布会被直接改写,不需要额外采样轨迹,也不需要生成文字反思。 SAUP、TRACER、UProp 主要是在评估传播过来的不确定性大小,AUQ 则把置信度和解释存进记忆并在执行前触发反思,而记忆可能过时或不一致,反思本身也要付出上下文处理与生成开销。 在同样的八种设置中,LProp 的 F1 全部最高,平均推理 token 用量也全部最低,相对 AUQ 的逐设置降幅等权平均为 61.2%,相对 UProp 为 71.1%。
候选答案的隐状态内容本身在起作用,而不只是答案概率或接收端模型容量。 匹配的特征消融把交接表示换成仅概率或 128 token 文字摘要,把隐内容换成冻结内容或高斯噪声,把接收端换成参数量相近的 MLP 或对数线性融合。 在 Qwen3-8B 上,完整 LProp 在四个基准上的最终正确率都最高,恢复的初始错误答案多于仅概率与文字摘要两种交接表示;在 StrategyQA 上冻结内容虽略多恢复错误,却带来明显更多的新增错误。
启示与展望
演示范围是四个问答与数学推理基准上的受控源—接收者回合:源端用私有证据构造候选支持,接收端只拿到载体、问题和后续公开证据,看不到源端原始私有上下文。方法需要白盒访问骨干隐状态和用于初始化候选支持的答案分数,仅提供文本生成或 token 概率接口的模型无法直接供给所需隐特征。效率结论按文中规定的 token 记账口径统计,不等同于与硬件无关的加速。
效率分析报告的是指定记账口径下的推理 token 用量,而非与硬件无关的加速;隐状态提取、载体存储与学习式更新带来的计算和存储开销并未被 token 数完全刻画,实际延迟与显存占用取决于硬件、模型规模、批处理和服务实现。隐接口绑定骨干的表示空间,源端与证据投影、特征归一化与学习头都按所选设置拟合,换骨干或换隐状态表示可能需要重新拟合。HotpotQA 上的恢复只限于源端候选中已经存在的正确答案。
