模型自己当教练也当裁判:多智能体自监督两轮后,每输出词元得分达基线的1.2至1.6倍
让同一个模型扮演一支虚拟子智能体团队,再从中挑出最好的协作流程,用这些流程的执行记录反过来训练自己,这就是多智能体自监督(MASS)。在一个270亿参数的开源模型上跑两轮后,四个开放式研究基准上每输出词元的得分达到基线的1.2至1.6倍。研究还提示,当模型同时充当评估者时,共享的盲点可能让错误被当作进展接受并固化进训练。
让同一个模型扮演一支虚拟子智能体团队,再从中挑出最好的协作流程,用这些流程的执行记录反过来训练自己,这就是多智能体自监督(MASS)。在一个270亿参数的开源模型上跑两轮后,四个开放式研究基准上每输出词元的得分达到基线的1.2至1.6倍。研究还提示,当模型同时充当评估者时,共享的盲点可能让错误被当作进展接受并固化进训练。
已读完全部报道