跳到主要内容
返回时间线
arXiv来源发表:

智能体框架换模型后还能接着改:Self-Improvement Memory在编码十对配对续跑中九对收分更高

核心概要

智能体框架的自动优化此前通常固定在单一策略模型和基准上,一旦模型或数据分布改变,优化器只能拿到演化后的框架,却看不到当初为何这样改、改完效果如何。Self-Improvement Memory(SIM)把每次框架修改按反复出现的框架问题归组,连同理由、预测与实测结果、评测上下文一起交给提出与筛选修改的智能体,并在目标阶段继续追加新记录。在编码任务从Terminal-Bench 2.1转到Terminal-Bench 4的十次独立源运行配对比较中,带SIM的续跑有9对最终得分更高,平均比只继承框架的续跑高2.36分。

AI-generated editorial illustration: Self-Improvement Memory Enables Continual Recursive Self-Improvement

深度剖析

框架自动优化现在可以在基准或策略模型更换之后接着进行,而不必从种子框架重新开始。 此前的递归自我改进通常在固定的策略模型和基准内完成优化,演化出的框架虽然能迁移,但优化过程本身不跨设置延续。 在四个领域的跨数据集与Opus到Gemini跨模型比较中,从同一演化框架出发、轮数与候选预算匹配的条件下,完整SIM在全部六个跨数据集设置和全部四个跨模型领域里最终得分最高。

续跑时优化器拿到的不只是框架代码,还有一份按框架问题组织的改进记录。 只继承框架时,为什么提出某次修改、预期修好哪些任务、实测结果如何都不随框架传递。 每条记录保存修改、理由、评测前写下的预测、评测后的实际结果,以及领域、基准、策略模型和轮次等来源信息;提出者与筛选者在每一轮读取全部记录,被选中的候选无论成功、回归还是未修好预测任务都会写入。

在编码任务上,这套记录带来的优势在多次独立源运行中重复出现。 单次运行的比较无法区分记忆的作用与优化过程的随机波动。 从Terminus-2在Terminal-Bench 2.1上重复十次源优化,每次演化出的框架各初始化一对十轮Terminal-Bench 4续跑;共享起点均值为18.36,带SIM的平均最终得分为21.70,不带SIM为19.33,平均配对优势2.36分,10对中9对偏向SIM。

启示与展望

实验覆盖编码、文本分类、智能体工作区和工程设计四个领域,源框架在目标环境中仍可执行;跨数据集续跑固定策略模型,跨模型续跑固定基准与划分,策略权重全程冻结。除编码外,其余领域每个条件只运行一次,结果按描述性方式报告。

作者指出,在自身算力预算内,独立重复运行集中在编码领域,其他领域每个条件仅一次运行;研究限定在框架接口兼容、优化器规划与搜索流程固定的设置下;比较评估的是完整SIM流程,即继承记忆与目标阶段更新合在一起,而非单独拆分的组件。