长期记忆改写成可调用代码:MaC在LOCOMO上把整体判分最高提高15.91%,同时少用token
长期记忆系统通常把事实存成条目、检索时按相关性挑选,跨会话分散且随时间变化的事实难以组合。MaC把记忆构建与检索统一到同一套代码抽象上:事实被写成带规范标识和来源的可执行函数,查询则被编译成一段检索程序,一次规划调用后由执行器运行。在LOCOMO与LONGMEMEVAL上,MaC在四个评测设置中整体LLM判分均为最高,相对各自最强基线最高提升15.91%和9.06%,并显著降低token消耗。
长期记忆系统通常把事实存成条目、检索时按相关性挑选,跨会话分散且随时间变化的事实难以组合。MaC把记忆构建与检索统一到同一套代码抽象上:事实被写成带规范标识和来源的可执行函数,查询则被编译成一段检索程序,一次规划调用后由执行器运行。在LOCOMO与LONGMEMEVAL上,MaC在四个评测设置中整体LLM判分均为最高,相对各自最强基线最高提升15.91%和9.06%,并显著降低token消耗。
中医大模型此前多在不足1GB文本上训练,且只处理文字,而中医诊断本身依赖望、闻、问、切多种感官。ShizhenGPT用100GB以上文本(3256本中医书籍与网络语料)和200GB以上多模态数据(120万张标注图像、200多小时音频及脉搏、气味、心电信号)做两阶段预训练与指令微调,把图像、声音和生理信号接入同一个模型。在2024至2025年五套中医考试上,ShizhenGPT-32B平均78.1分,低于DeepSeek-R1-671B的84.0分;在7204道题的中医视觉基准上,它以63.6分超过Gemini-3-Pro的61.4分。
蛋白质功能取决于构象状态之间的有序转换,而分子动力学模拟在成批蛋白上反复采样代价高昂。TEMPO把生成分成两级:慢尺度模型按训练时的20纳秒步长推进锚点构象,快尺度模型在锚点条件下生成间隔1纳秒的帧。在留出的mdCATH与ATLAS蛋白上,它复现了MD系综观测量;相比单尺度自回归模型,400帧长程RMSD误差从8.62埃降到1.78埃,一次400帧推演不到1分钟。
该工作提出 Neighborhood OPSD(N-OPSD):在 on-policy self-distillation 中,对带参考解答的教师做局部参数扰动得到一批冻结专家,离线按“超出当前专家池最优的过滤参考 token 增益”贪心挑选互补专家,在线用 MaxPeak 选锚 token、再用分位数规则在锚一致的专家中选监督强度,在 AIME 2024、AIME 2025、HMMT February 2025 三项基准的 Average@12 上,相对 OPSD 在 Qwen3-1.7B、4B、8B 上分别提升 2.75、1.67、1.94 分,且推理时只用蒸馏后的学生模型。
该工作提出轨迹自适应进展—波动调度器 TAPS,用指数移动平均在线估计循环更新中的持续进展与中心波动并据此调整每步更新尺度,理论证明在给定条件下可降低期望终端损失、以更少循环达到目标质量,实验在 Sudoku、Maze 及语言模型与中间层循环等设置中提升终端准确率并带来最高约 1.5 倍墙钟加速。
已读完全部报道