Workflow
WorkflowArena
icon
搜索文档
Agent领导力大考!Einsia AI发布WorkflowArena,行业首个多智能体编排基准
机器之心· 2026-11-10 19:08
文章核心观点 - 智能体正从单打独斗走向多智能体协同,多智能体编排本身已成为一项关键能力,同样一批智能体组织得好可以事半功倍,组织得不好则会互相拖累 [1] - 现有评测要么只看任务最终有没有完成,要么在设计者预先规定好的协作结构里测试,始终没有回答大模型能否面对真实长程任务自己把多智能体系统组织好这一问题 [1] - Einsia AI 旗下 Navers Lab 发布 WorkflowArena,专门评测大模型的多智能体编排能力 [1] - 最强系统 Claude Opus 5.5(max)平均完全解决率仅 36.95%,六成以上任务未能完整交付,且没有一个系统能通吃全部领域 [10][14][15] - 多智能体编排能力并不是任务完成能力的副产品,而是一项需要单独衡量、也值得单独优化的能力 [31] - 决定上限的是编排得好不好,而不是烧了多少 token [38] - 从「一个 Agent 完成一件事」到「一个 Agent 组织一群 Agent 完成一件事」,系统智能的竞赛才刚刚开始 [47] 基准设计与构建 - WorkflowArena 基准包含 145 项长程任务,覆盖软件工程、企业运营、科学研究、数学推导、金融、法律、内容设计与 3D 制作 8 大专业领域,对 9 个主流前沿模型的 25 种推理配置进行了全面评测 [1] - 145 项任务分布在 8 大领域、17 种任务形态,不规定怎么分工,只看最终交付 [3] - 每道题都是一份真实的专业交付:修改开源代码库、复现科学结果、完成 Lean 形式化证明、编制多主体合并报表、分析多被告案件、在 Blender 里搭出完整建筑群 [4] - 交付物共同点是各部分环环相扣,每一块单独做对还不够,整合在一起才算数 [4] - 构建流程为:真实素材 → 筛选「可拆分但相互耦合」的工作 → 只规定目标、不规定工作流 → 校验结果与整合 [8] - 评测中模型拿到的是一个空白的「指挥台」,不仅能看做得怎么样,还能看是怎么组织起来做的 [9] - 采用严格的完全解决率:只有交付物满足全部验收标准才算真正解决,各部分都做对却没整合好的提交同样判为失败 [11] - 模型看不到判题器和标准答案,评分只看交付结果,与用了多少子智能体无关,同时每一次调度都被完整记录 [13] - 主智能体和所有子智能体共享推理预算,规划、调度、返工都算在里面 [13] 总体评测结果 - 榜首 Claude Opus 5.5(max)平均完全解决率 36.95% [14] - Claude Opus 5.5(high)为 34.11%,Claude Opus 5.5(xhigh)为 33.23%,Claude Sonnet 5.5(max)为 33.21% [12] - GPT-6 Astra(xhigh)为 30.80%,GPT-6 Astra(high)为 29.82%,GPT-6.1 Sol(xhigh)为 29.50% [12] - 排名靠后的模型包括 Kimi K3.1 Pro(max)16.48%、GPT-6 Luna(max)13.32%、Doubao-Seed-Evolving(high)10.84%、DeepSeek V4.1 Flash(max)6.08%、GLM-5.3 Flash(max)4.43% [12] 领域表现差异 - 形式化数学已接近饱和,Claude Opus 5.5 解决了 95.83% [15] - 软件工程最高只有 29.41%,金融最高 18.75%,法律最高仅 9.09% [15] - 没有一个系统能通吃全部领域:Claude Opus 5.5 领跑软件工程、科学与数学,Claude Sonnet 5.5 拿下法律和内容设计,GPT-6 Astra 与 Doubao-Seed-Evolving 拿下企业运营并列第一 [15] 编排风格差异 - Claude 系「谋定后动」:调用少、规模大,Claude Opus 5.5 和 Claude Sonnet 5.5 平均每题只调用 0.86 和 0.76 次 Workflow,但每次平均调度 5.55 和 6.14 个子智能体,9 个以上子智能体的大型编排在 Sonnet 中占到 30% [26] - GPT 系「小步快跑」:调用勤、规模小,GPT-6 Astra 和 GPT-6.1 Sol 平均每题调用 2.09 和 1.94 次,但每次只调度 1.72 和 1.69 个子智能体,约 99% 的工作流不超过 4 个 [26] - 法律任务中 Claude Opus 5.5 每个工作流平均调度 14.29 个子智能体,GPT-6 Astra 只有 1.73 个 [23] - 数学任务中 Kimi K3.1 Pro 每题调用 9.67 次 Workflow,每次却只调度 1.74 个子智能体,调用得勤不等于协作规模大 [23] 编排迁移实验 - 实验固定执行模型不变、只更换编写工作流的模型,Claude Opus 5.5 和 GPT-6 Astra 担任编排者,Kimi K3.1 Pro、GPT-6 Luna、DeepSeek V4.1 Flash、Doubao-Seed-Evolving 担任执行者,编排者不能亲自修改任何文件 [25] - 实验分静态(编排者写完工作流就离场)与动态(全程在线根据反馈调整)两种模式 [25] - Opus 编排的工作流让所有执行模型都变强:Kimi K3.1 Pro 从 35.75 分提升到 46.61 分,涨了近 11 分;DeepSeek V4.1 Flash 从 18.37 分提升到 25.24 分;四个执行模型平均提升 6.41 分(静态)和 6.27 分(动态) [29][36] - 自己会做不代表会编排:GPT-6 Astra 在全部 145 道题上平均得分 77.29,明显高于四个执行模型(最高为 Kimi K3.1 Pro 的 62.73),但其编排的工作流交给别人执行时静态模式平均降低 2.53 分,动态模式平均提升仅 1.34 分,还拉低了 Kimi K3.1 Pro 和 DeepSeek V4.1 Flash 的成绩 [30] - 子集难度明显更高,Kimi K3.1 Pro 在全部任务上平均 62.73 分,在核心子集上只有 35.75 分 [28] 成本与性价比 - GPT-6 Astra 每道题的花费是 Claude Opus 5.5 的好几倍,解决率却始终没能追上 Claude Opus 5.5 [37] - 同一个模型把推理强度往上调,成本大幅增加,收益却很有限 [37] 3D 建造案例分析 - 宫殿任务:Claude Opus 5.5 同时派出 7 个子智能体分头建造各个殿宇,再组装、检查、多轮修复(78.86 分);GPT-6 Astra 先打好共享基础,再交给单个子智能体统一组装(73.86 分) [48] - 大教堂任务:Claude Opus 5.5 选择两次整体建造(77.95 分);GPT-6 Astra 把教堂按区域分给三个子智能体再单独整合(81.59 分) [48] - 要塞任务:两者都只用一个主建造者,但 Claude Opus 5.5 在动工前先派出 7 个子智能体研读图纸(64.31 分),GPT-6 Astra 则边建边审图(55.35 分) [48] - 没有放之四海而皆准的编排方式,好的编排取决于任务本身的结构 [43] 行业启示 - 今天的大模型在多智能体编排上仍有很大提升空间,而一份好的工作流本身就能让同一批模型交出明显更好的成果 [46] - WorkflowArena 完整记录了每份交付物和产出它的工作流,为后续研究留下空间:让强模型负责编排、弱模型负责执行的异构多智能体系统,或许正是下一步的方向 [46]