跳到主要内容
检索

# 逻辑推理

4 篇关联报道

订阅更新
  1. arXiv

    CRAM把数独求解写成能量下降:训练42毫秒解出99.996%的Sudoku-Extreme,比循环模型快千倍

    一种可训练的能量模型CRAM把推理变成在能量函数上的循环下降,权重直接从已解谜题中学得。在Sudoku-Extreme上它解出99.996%的测试题,在Maze-Unique上解出全部测试迷宫,单张GPU训练分别只需42毫秒和132毫秒,比循环模型至少快1000倍。它同时提示,数独和迷宫这类谜题的高分不足以衡量循环推理方法在更难任务上的可扩展性。

  2. arXiv

    自蒸馏的教师也要学会教:TeachBack 双向偏好让 Qwen3 数学均分最高涨 4.3 分

    在线自蒸馏让同一个模型在只给题目时当学生、在附上参考解答时当教师,但参考解答会让教师给出又短又依赖答案的推理,学生学不到探索与自我纠错。TeachBack 把参考推理的末尾一段当作可选工作笔记注入教师提示,并同时优化两个方向的偏好:教师轨迹在只给题目的条件下应优于学生轨迹,学生轨迹在带特权信息的条件下反过来塑造教师。在 Qwen3-1.7B、4B、8B 上,数学平均分相对基座分别提高 4.3、2.2、2.5 分,骑士与无赖逻辑题平均分分别提高 6.1、3.9、7.5 分。

  3. arXiv

    不改一个权重,只把中间层跑两遍:Qwen3-1.7B 在 GSM8K 上从 42.30% 升到 79.61%

    LoOPSD 不改权重、只让同一模型重复执行一段中间层来造出更强的自教师,再把它的预测蒸馏回标准路径的学生;GSM8K 上 Qwen3-1.7B 在 400 token 思考预算下从 42.30% 升到 79.61%。

  4. arXiv

    预测正确、步骤错误?用共识推理知识图谱合成更稳健的思维链

    该工作先通过 PRMBench 与 ROSCOE 上的对照实验表明,向模型提供正确答案在多数设置下并不能稳定提升推理质量,据此把推理缺陷归因于推理轨迹的结构而非答案可知性,并提出 CRAFT:对每个样本采样 K 条候选轨迹,用 TF-IRF 提取共识术语并以 z-score 过滤步骤,将各轨迹转成以步骤为节点、逻辑关系为边的推理知识图谱并聚合为共识图谱,再按拓扑序逐步合成一条新轨迹;在 FLD、FOLIO、GSM8K、OlympiadBench 上,CRAFT 在 GPT-5.4-nano 与 o4-mini 两个骨干下取得最高或次高的标签预测准确率,并在 OlympiadBench 上以更少步骤同时取得最高准确率,其合成轨迹在 RO

已读完全部报道