NeurIPS 2026 | FlowMAS:让AI团队自己学会「排兵布阵」
机器之心·2026-10-16 17:41

文章核心观点 - 厦门大学ASC实验室团队提出FlowMAS,已被机器学习顶会NeurIPS 2026录用,将大模型多智能体架构设计转化为可学习的生成问题,用生成流网络(GFlowNet)做发动机,配上好奇心与信息论两件武器,让AI团队搭建方式做到自动、多样、省钱 [2] - 论文标题为FlowMAS: Learning Multi-Agent Workflow Topology via Information-guided Generative Flow Network,论文链接为https://arxiv.org/abs/2609.37151 [4] - FlowMAS的意义在于把如何组织AI团队这件事,从一门手工艺术变成了可学习、可优化、可度量的科学问题 [29] - 当AI员工越来越多,或许最需要被AI化的,正是管理AI本身 [30] 研究背景与问题定义 - 大模型多智能体系统(Multi-Agent System, MAS)是当下火热方向,但组队容易排兵布阵难,同一批AI谁打头阵、谁做总结、谁听谁的、信息怎么流转,这套组织架构直接决定团队战斗力,架构搭得好1+1>2,搭得不好几个AI互相抬杠还不如一个单干 [1] - 论文研究的对象叫大模型智能体工作流拓扑(LLM agentic workflow topology),画成有向无环图(DAG)后,节点是一个个算子(operator),可理解为有具体分工的AI员工,各自带着模型、提示词、工具和内部工作模式(如思维链CoT、自我反思Reflexion、程序员Programmer),边代表信息从谁流向谁 [5] - 再复杂的组织架构都由三种基本积木拼成,包括链式(Chain)流水线,一个干完下一个接上 [5] - 论文要解决的核心问题是面对一个具体任务,如何从组合爆炸的拼法里自动生成最好的那一种 [6] 现有四大路线及其痛点 - 手工派(MetaGPT、LLM-Debate等):资深工程师凭经验手绘架构,费时费力,换个任务就得推倒重来,像老裁缝一件件手工定制西装 [13] - 搜索派(ADAS、AFlow等):在巨大设计空间里反复试错、迭代评估,效果不错但极其烧钱,每试一种架构都要真实调用大模型,token如流水,可选算子一多搜索还容易失灵 [13] - 文本梯度派(OneFlow等):让大模型当教练,看结果写评语、提修改意见,问题是评语太粗,说不清到底是哪一步的结构出了问题,也称为信用分配困难 [13] - 生成派(G-Designer、MaAS、GTD等):用生成模型直接画架构,是目前表现最强的一类,但所用VAE、扩散模型等发动机本是为生成图像、向量设计,对付不了拓扑这种离散且带复杂依赖的数据,结果生成的架构千篇一律,难以一题一策 [13] FlowMAS核心方法 - FlowMAS选择的核心生成骨架是生成流网络(Generative Flow Networks, GFlowNets),这一框架由图灵奖得主Yoshua Bengio团队提出,最早用于药物分子生成,在离散组合空间里高效探索多样的候选分子 [8] - GFlowNet思想是把整个生成过程看成一张有向无环图上的流,从一片空白开始,每加一个节点、连一条边就是流向前推进一步,训练目标是让每种最终架构被采样到的概率正比于它的奖励(任务表现、成本等综合评分),好架构多生成差架构少生成,多样性被天然保留,正好治了生成派千篇一律的病 [8] - GFlowNet直接搬到大模型多智能体系统上会水土不服,面临结构挑战(只靠最终奖励模型容易扎堆,探索不到足够多样的架构)和信息挑战(分子没有交流问题,而大模型多智能体系统的命脉恰恰是信息交换,多个AI给出的信息可能互补、可能冗余、也可能产生化学反应,直接决定协作成败)[14] - FlowMAS的关键机制创新是别等期末才打分,平时就发过程性奖励,在工作流搭建的每一步就给中间结构评估并注入中间奖励流,并为此重新推导了GFlowNet的流守恒与轨迹平衡约束,让苗子好的半成品架构早早被识别出来 [12] 过程性奖励两大模块 - 好奇心驱动模块(CDM):给没见过的新结构发奖励,借用强化学习中随机网络蒸馏(Random Network Distillation)的思想,用一个可训练的预测网络去拟合一个固定目标网络的输出,猜得越不准说明这个结构越新奇奖励越高,模型像充满好奇心的探险家专挑没人走过的路网,架构多样性就此打开 [15] - 信息引导优化模块(IOM):用信息论给协作质量打分,信息打分只在训练阶段使用,部署推理时既不需要标准答案也不需要这些奖励,完全不增加使用成本 [16] - 协同信息奖励:借部分信息分解(Partial Information Decomposition, PID)的思想,把多个上游AI对答案的信息贡献拆成独有的、冗余的、协同的三份,专门奖励1+1>2的协同部分,即单干给不出、重复不算数的增量信息 [21] - 有效信道奖励:把各路上游输出的余弦相似度组成Gram矩阵并计算谱熵,衡量信息是否均匀分布在各条通信通路上,熵太低说明信息挤在少数主干道上存在冗余占位或摸鱼分支,熵高而均匀说明每条通路都在做贡献 [21] 实验评测与性能表现 - 评测阵容为6个公开基准(数学推理GSM8K/MATH、代码生成HumanEval/MBPP、阅读理解HotpotQA/DROP)× 3种大模型底座(GPT-4o-mini、Llama-3.1-8B、Gemma-4-26B)× 15个基线方法 [18] - 在Llama-3.1-8B上,FlowMAS六项平均70.50分,超过最强自动化基线MaAS(67.73)与AFlow(67.55),GPT-4o-mini与Gemma-4-26B上同样全面第一(平均81.40 / 86.92)[22] - 综合三个底座,FlowMAS比手工设计方法平均高8.17分,比现有自动化方法平均高6.12分 [22] - 在较弱的8B小模型上优势尤为明显,说明方法不靠抱大腿,小模型也能组出强队 [22] - 具体成绩:HumanEval 69.6、GSM8K 86.2、MATH 38.8、MBPP 75.6、HotpotQA 73.6、DROP 79.2,平均70.50 [19] 成本与效率优势 - 在HumanEval上,AFlow的推理token消耗是FlowMAS的15倍以上,精度反而低4.5个点,ADAS的训练token消耗更是高达FlowMAS的220倍 [20] - 计算效率对比:FlowMAS训练token为384,278(1.0×),推理token为900,287(1.0×),而ADAS训练token为84,526,998(220.0×),推理token为97,526,460(108.3×),AFlow训练token为6,253,861(16.3×),推理token为13,690,205(15.2×)[23] - DyLAN训练token为5,842,507(15.2×),推理token为25,064,472(27.8×),AgentNet训练token为792,775(2.1×),推理token为451,047(0.5×),SELFORG训练token为853,528(2.2×),推理token为2,755,046(3.1×),MaAS训练token为223,042(0.6×),推理token为1,151,392(1.3×)[23] 消融实验验证 - 把发动机换成VAE、图扩散、Transformer或MLP,性能全面下降,拿掉好奇心模块或信息引导模块成绩同样明显下滑(HumanEval从69.6掉到62.8),换成图编辑距离、ICM、LLM-as-Judge等替代方案也补不回来,两大组件缺一不可 [24] - 不同生成backbone性能对比:FlowMAS(VAE)HumanEval 62.6、GSM8K 81.6、HotpotQA 46.1,FlowMAS(Graph Diffusion Model)55.7 / 80.8 / 50.6,FlowMAS(Transformer)58.8 / 82.5 / 53.2,FlowMAS(MLP)60.3 / 81.1 / 62.9,FlowMAS(GFlowNet, w/o CDM, w/o IOM)62.8 / 82.9 / 67.3 [25] - 模块消融:w/o CDM时HE Acc. 67.3、G8K Acc. 84.9、HQ F1. 72.0、Topo. Count 68,w/o IOM时65.0 / 84.2 / 69.3 / 60,w/o CDM & IOM时62.8 / 82.9 / 67.3 / 21,完整FlowMAS为69.6 / 86.2 / 73.6 / 81 [26] 典型案例 - 在DROP阅读理解任务上,FlowMAS自动演化出了证据抽取—分解—计算—聚合的分工结构并答对题目,而AFlow与MaAS生成的架构无法显式分解证据,双双答错 [27]

NeurIPS 2026 | FlowMAS:让AI团队自己学会「排兵布阵」 - Reportify