LLM解释不再逐题写:一段可执行程序复现模型输出,比思维链短6到100倍
研究者把大模型的解释从逐条自由文本改成一段可执行程序:程序在数据集上运行,与模型输出比对,用一致性衡量解释是否复现模型行为。在三个开源代码模型和八个任务上,24个模型-任务设置中有6个一致性超过0.75,代码解释比思维链短6到100倍,并在24个设置中的9个更贴合模型行为;但语言成分更复杂的任务上,一致性并不高于无信息基线。
研究者把大模型的解释从逐条自由文本改成一段可执行程序:程序在数据集上运行,与模型输出比对,用一致性衡量解释是否复现模型行为。在三个开源代码模型和八个任务上,24个模型-任务设置中有6个一致性超过0.75,代码解释比思维链短6到100倍,并在24个设置中的9个更贴合模型行为;但语言成分更复杂的任务上,一致性并不高于无信息基线。
思维链的分布外泛化被解释为组合式泛化:训练只给单步原子转移,目标任务却需要多步组合。理论把目标风险写成各单步风险之和乘以一个与步数无关的系数,并证明共享同一个预测器使估计项按步数的平方根倒数收缩,而非随步数线性增长。Atom-Task 与 GSM8K 实验支持短链到长链、以及未见操作组合上的迁移,同时显示显式状态跟踪不可缺少。
链式思维隐藏状态上的答案探针常被当作模型已定下最终答案的证据,但候选名即将被写出时,隐藏状态同样会携带该候选的信息。发射受控双目标探测(ECDP)在同一位置用同一低秩读取器分别拟合“下一个被提到的候选”和“最终答案”,并预先固定各自的零假设与阈值。在DecisionDepth上,Qwen3.5-4B读取下一个提及的准确率为.966(零假设.234),读取最终答案仅.221(零假设.186),发射差.696;Llama-3.1-8B的发射差为.575。这一顺序并非普遍规律:在Qwen3-8B的MMLU设定中,最终答案反而更易读出。
一个智能体式生成式AI框架在乳腺癌与hATTR-PN两个案例中生成了疾病概念图与模型结构图,其结构与NICE相应评估所接受模型的核心疾病分期逻辑一致,自动化运行约1小时,含专家验证为1–2天,而纯人工概念化可达3个月。
作者提出 LLoCoT:用共享 Transformer 对紧凑潜在工作区做少量迭代精炼,替代从左到右的潜在生成,再由概率头并行采样潜在 token 以条件化自回归解码器;在 HumanEval 与 MBPP 上其平均准确率与显式 CoT 基线 Reasoning SFT 相当,并优于基座模型、仅答案 SFT 与 NF-CoT,同时相对 Reasoning SFT 将首答时间降低约 36 倍、推理阶段延迟降低约 42 倍、端到端吞吐提升 9.2%。
DBRAG把多表问答拆成两阶段:先用离线表索引粗排候选表,再用查询相关行替换摘要中的随机行并由LLM重排,随后由程序辅助的思维链推理器选表并在完整表上执行操作;在Spider、GeoQuery、ATIS上,该框架在表检索与多表问答指标上均优于所比较的基线。
AlphaGo核心成员Thore Graepel以2016年首尔对局中第37手为例,论证该手棋来自AlphaGo的搜索机制而非直觉,并指出当今大语言模型仅靠下一词元预测与思维链并不构成科学家意义上的推理,进而提出应借鉴AlphaGo的博弈树结构,为通用推理系统建立可显式检查、可随证据更新的认知状态,并由独立组件按“是否真正消解不确定性”评估每一步推理。
该研究在9个近期大模型和6个数据集上固定其他配置、只改变系统提示中隐藏注入的当前日期(2024年全年逐日扫描),发现仅日期变化即可让多选问答准确率波动最高6%、数学推理最高14%、代码生成最高7%、机器翻译最高2.84 BLEU,模型排名随之改变,且该效应大于批大小与数值精度等已知非确定性来源,思维链提示不但不能缓解反而放大敏感性。
该工作提出 ThinkV2V,一个在视觉生成前显式激活多模态大模型思考的推理驱动视频编辑框架:它用 Qwen3-VL-Thinking-8B 对源视频与指令做思维链推理并输出精炼提示,经可学习查询连接器把隐藏状态注入 Wan-2.1-5B 的 DiT,配合渐进式课程训练与推理时思考扩展,并构建 ThinkV2V-150K 数据集与 ThinkV2V-Bench 基准;在两种评判模型下,该 5B 规模模型在复杂与标准编辑场景中均取得最佳总分,并超过若干 10B 级基线。
该工作提出 AbSteering 框架,通过异常中心思维链训练与基于直接偏好优化的细粒度异常判别两阶段方法,将通用视频语言模型适配到高分辨率 CT 报告生成,并构建 CT-RATE-AB 数据集;结果显示通用视频语言模型在有限数据下可有效迁移到三维医学影像,在细粒度临床效能指标上达到当前最优,检出敏感度优于用大规模 CT 预训练的领域专用 CT 基础模型,同时减少幻觉。