跳到主要内容
检索

# 思考价值估计

1 篇关联报道

订阅更新
  1. arXiv

    推理模型多了一个“不写就答”的开关:HDM 用一次前向的隐状态决定要不要生成思维链

    混合决策模型 HDM 把“不生成任何 token 直接作答”和“完整自回归推理”放进同一个冻结骨干,由一个轻量自路由模块在生成前决定走哪条路。该模块估计“思考的价值”,即慢模式相对快模式预期带来的正确率增益,只在增益超过请求设定的价格时升级。在 MiniWoB 上,HDM 以 0.469 的奖励对全推理的 0.519,思考 token 减少 80%、实际耗时减少 67%。

已读完全部报道