事件:Sakana AI 公开 MASS,智能体团队自己训练自己
日本 AI 创业公司 Sakana AI 在 10 月 11 日通过官方研究站 pub.sakana.ai 放出了 MASS 方法的完整研究说明,论文本身已在 10 月 8 日先行挂上 arXiv,编号 2610.12176。这是公开渠道里第一份把智能体群自己训练自己这件事写出可复现细节的研究。公司联合创始人 David Ha 亲手把它提交到 Hacker News,截至发稿已经拿到 113 分和 60 多条讨论。
MASS 全称 Multi-Agent Self-Supervision,中文可以理解成多智能体自监督。核心设计是让同一个模型轮流坐进三个位置。干活办差事的智能体、改写协作流程的教练,以及给两份成果打分的裁判,全由它自己承担。训练时把智能体团队的完整协作轨迹回收下来,再用 LoRA 微调蒸馏回模型权重,模型自己就变强一轮。
这份工作的意义不在刷榜,而在验证一个长期被认为只有头部实验室才敢碰的目标:递归自改进(RSI)在没有人类监督的环节里能不能真实跑起来。作者团队用 270 亿参数的 Qwen3.6-27B 底座跑通了两轮完整循环。官方说明与论文都已公开,任何团队都可以照着流程复现。
RSI 卡壳的老问题:谁来给一份好研究打分
递归自改进的老难点在于,模型一旦超过人类专家能可靠评估的水平,进步就找不到裁判。数学这类可验证任务之外的大量真实工作,比如行业研究报告、数据分析和方案评审,都没有自动对错信号。自己的输出自己评,很容易形成报喜不报忧的假循环。
MASS 把裁判交给群体。与其让单个模型孤军奋战地自评,不如让它组一支多智能体的队伍,靠分工、互查和交接清单产生相对可靠的质量信号。具体设计里,同一个模型在三个座位之间轮换,前面提到的智能体、教练和裁判都由它自己当。
为了防止集体自嗨,研究组另请 GPT-5.5 与 Claude Opus 4.8 担当外部裁判,考核每轮模型的成果。这些外部判断不回流训练,只做独立体检。等于给自己留了一道不会被群体情绪带偏的对照检查。
内环外环怎么跑:进化工作流,再用 LoRA 蒸馏回模型
内环只搜流程、不动权重。所谓工作流,就是写在提示里的一份团队手册,包含四个要素:谁负责什么(Role)、办什么事(Instruction)、必须带回哪些证据与检查项(Contract)、调用顺序怎么走(Hop)。在金融示例里,进化出来的手册要求数据岗显式报告回测有没有偷看未来数据,防数据泄漏的检查被写成了硬性契约。
外环才更新权重。每个任务把冠军工作流跑 18 次,用当前模型做两两比较并以 Bradley-Terry 算分留下最好的 15 条训练轨迹加 1 条验证轨迹,构建训练样本时会删掉编排者提示里的工作流文本,为的是让模型真正学会自己安排工作,而不是背诵手册。最后用 LoRA 对编排者与子智能体的完整对话做微调,改进后的模型再回到三个座位上重复循环。
提升 1.2-1.6 倍,但 SWE-bench 反而略退
结果要分开看。在 12 个覆盖金融、机器人、制药的合成研究任务里,对外部裁判的胜率从一轮后的 53.9% 涨到两轮后的 69.9%。在 MLR-Bench、DSBench、ScienceAgentBench、AstaBench 四个公开基准上,每单位输出 token 的得分也达到基线的 1.2 到 1.6 倍。这更接近同样的算力干出更多的活,而不是把模型变得更大。
冷的一面是迁移不均。在软件工程方向,论文测出 Terminal-Bench 2.0 的得分系数只有 0.96,SWE-bench Verified 是 0.94,等于没涨甚至略退。作者的解释是往训练数据里补软件工程任务应该能解决,但目前只是假设,没有配套的验证数据。另外要留意,任务是 GPT-5.5 预先生成的,任务集偏差对结果有一定影响。
多智能体轨迹的隐藏优点:更省的监督信号
另一个值得留意的发现是样本效率。同样从基座出发的学生模型,用多智能体轨迹训练的 M+ 版本在消耗 28.8M 监督 token 后拿到 68.3% 的对外胜率。用单智能体轨迹的 S++ 版本要喂 42M token 才到 64.0%。单看数字,多智能体路线用少三成的监督 token 换来了更高分。
天下没有完全免费的午餐,团队运行平均要多花约 2.4 倍的生成 token,采集成本并不低。但蒸馏阶段的监督信号确实更密,外部裁判在 85.1% 的对比里更偏爱团队产出。evaluator 与外部裁判的一致率也随轮次从 73% 提到 93%。过去多智能体主要被当作推理阶段的加算力手段,MASS 提供了把它当训练教材的证据。
对做 Agent 的团队意味着什么,怎么低成本试起来
对自己搭建多智能体系统的团队,MASS 给了一个可以直接借鉴的工程结论。与其在提示词里堆角色扮演,不如把系统性检查写成 Contract、把调用顺序写成 Hop,再让进化搜索去改这些结构。权重一步不动的情况下,只复用结构化工作流加多轮运行择优这套流程,团队任务的稳定性就有提升空间。
想动手复现的团队可以按论文流程分两步验证。先固定基座模型跑内环的工作流搜索,用外部裁判或人工评审记录每轮 win rate。再用 LoRA 做一轮外环微调,对比每 token 得分的变化。论文专门测了低成本配置,工作流的搜索与评估交给更强的外部模型(实验里用了 GPT-5.5)同样有效,算力有限也能起步。普通用户没有成品模型可下载,把它当方法论文读更合适。
行业影响与下一步关注什么
MASS 把递归自改进从愿景推进到了可复现的实验层面,并把多智能体协作从应用层技巧抬到了训练数据的位置,这两点后续都会被创业公司和大厂拿去当立项参照。更值得盯的问题对方没有完全给出答案:评价不闭环的自改进能不能一直安全涨下去。效率涨不代表方向对,方向错时涨得越快越麻烦。
接下来建议盯三件事:一是 Sakana AI 会不会释出开源权重或更大底座的版本;二是 GitHub 上的镜像演示仓库 mass-zoo-demo-sidecar 一旦被激活,先读它的说明再判断复现成本,别轻信摘要式转载;三是盯官方页面的后续更新,在复现说明正式落地之前,不要把 MASS 已开源可用当成既成事实写进任何材料,等第三方实测报告出来再更新判断。
来源与说明
本文由 AI 潮汐编辑部基于官方公告与公开资料整理,补充了行业影响、适用场景和行动建议,帮助你在阅读原文前先理解这条信息为什么重要。
原始来源:https://pub.sakana.ai/mass/
如发现事实、价格或链接有误,可通过 联系我们 提交更正。
常见问题
现在能下载 MASS 训出来的模型吗?
不能。截至发稿 Sakana AI 只公开了研究的网页说明与论文,没有发布权重或推理接口,GitHub 上组织 SakanaAI 也只有 continuous-thought-machines、text-to-lora 等其他仓库,没有一个被确认为 MASS 的官方载体。等官方 fork 出现并穿过无提交期后,才值得动手下载。
复现需要什么规模的算力?
底座是 270 亿参数的 Qwen3.6-27B,微调方式是 LoRA,对算力的要求明显低于全量预训练或大参数模型微调。论文官方说明只描述了流程,没有公布算力账单,具体消耗建议以自己按流程最小化复现时的实测为准,别按单卡跑大规模工作流搜索的口径去预算。
它和市面上常见的多智能体编排框架有什么不同?
常见框架解决的是推理阶段怎么把活分出去,MASS 更关心训练数据要不要按编排结构生成和筛选。论文证据是编排者与子智能体的完整对话单独拎出来微调,比单智能体长轨迹更省监督 token,这把多智能体的分工记录推到了训练素材的位置。
对跟随自改进方向的应用团队,第一步该做什么?
先把自己任务里的质检项写成 Contract、把流程写成 Hop,然后跑工作流对比搜索,再考虑 LoRA 轨迹微调。论文的数据显示这一步对合成研究任务提升明显,但对软件工程类任务泛化不足,别把研究结果当成普适结论直接套到自己的项目上。