Workflow
WildAWM
icon
搜索文档
「假电脑」教AI用电脑,出的题连GPT-6 Astra都做不对
机器之心· 2026-11-07 06:41
文章核心观点 - WildAWM提出用完全开源的模型合成整台个人电脑环境(含CLI、GUI、MCP三类接口),并在其中合成高质量跨界面任务与验证器,仅靠合成环境训练小参数Qwen模型即可在8个分布外基准上全面提升 [2][6][38] - 核心方法论是把环境合成、任务合成、验证器可靠性三者统一到一条流水线中,用开源模型完成从生成环境、出题到判分的全流程,避免间接蒸馏闭源模型 [2][38] - 研究团队认为该路径为开源模型奠定Recursive Self-Improvement(RSI)基础,即自行合成可扩大的环境与任务、在其中自我学习迭代 [38] 研究背景与动机 - 让agent学会用电脑最直接的办法是在电脑环境中交互训练,但真实电脑环境成本高、难以大规模复制、状态难以重置,且存在安全风险,例如OpenAI披露agent在线学习时意外攻击huggingface服务器的事件 [1][4] - 前沿实验室已展现RL对agent性能提升的巨大帮助,但真实系统交互不现实:环境无法批量复制、agent点错后删除的文件与发出的邮件都是真实的 [4] - 此前AWM(ICML 2026)用代码和数据库合成可执行、可交互环境,共生成1000个覆盖日常场景的环境,专门用于多轮工具调用agent的强化学习 [4] - WildAWM是AWM系列新工作,面向通用computer-use agent,不再逐个合成工具环境,而是直接合成一整台个人电脑 [6] 合成整台电脑环境 - 每个环境都是某一个人的电脑,合成从虚构人物开始:先定职业、联系人、常去网站和手头几件事,再排成一天一天的计划 [8] - 使用coding agent(GLM-5.2加OpenCode)按天把计划落到环境里,往数据库写记录、往文件夹放文件,每天承接前一天状态,数据逐日累积;网页、应用、数据全部合成且全部本地、无需联网 [8] - 为保证世界前后一致,每天状态独立重放两次,两次结果完全一样且所有服务与网站正常才保留,另启动一个agent核对当天数据与计划是否对得上 [9] - 整个过程合成36个人物、640个世界状态;到最后一天,一个世界平均有17万多条数据库记录和50个左右本地文件,复杂程度超过同期合成环境类工作 [9] - 环境包含GUI web、MCP、CLI三种agent常见computer-use接口,网站、应用、MCP服务和本地文件都在一台机器上且状态连通 [8][9] 高质量任务合成 - 合成任务为跨界面(cross-agent-interface, XAI)任务,每道题必须用到GUI、MCP和CLI三种接口 [12] - 示例任务:Jordan要在2月21日跑半马,需按GPS精度、屏幕清晰度和预算重排备选GPS手表,agent需写python脚本从笔记提取候选表排序存文件、登录Amazon按外观描述从商品图挑选、加入购物车、往本地日志补带日期记录、最后在聊天应用告知朋友Naomi [12] - 任务平均包含4.2个子任务,需切换3.1次接口,74.5%的任务中途要回到之前用过的接口,部分任务超过100多步,属long-horizon agent任务 [13] - 任务合成需解决三大问题:任务有效性(确保任务可被完成)、任务难度(确保足够难,市面多数benchmark已饱和)、验证器可靠性(自动判定agent是否完成任务并提供RL奖励信号) [16] - 合成阶段引入大量不同agent实际尝试题目:使用3个开源模型(GLM-5.2、DeepSeek-V4-Flash、MiniMax-M3)配6种agent harness,其中OpenCode、Codex、Claude Code为编程agent,Nanobot、OpenClaw、Hermes Agent为claw agent;每个task至少跑6次,一半给提示 [17] - 每次跑完由三种方式评价:生成器写的验证脚本(verifier)、LLM judge、拥有最高权限可进环境查看前后状态的coding agent judge,三者依次增加test time时间与计算;目标是将验证脚本verifier准确度对齐Agent Judge [17] 任务质量五道关卡 - 评判一致:6次执行里verifier、LLM judge和agent judge结论必须完全一致 [18] - 初始未完成:agent什么都不做时verifier必须判失败,避免出现一开始就"已完成"的题 [19] - 可解:6次执行里至少成功一次 [20] - 难度:不给提示的3次若全部成功说明题太简单,需修改加难度 [21] - 反事实探针:故意把相反结论告诉agent judge让其重新查,若改了判定结果说明判定不靠谱,需重新修改 [21] - 经过这些关卡,2,551个任务草稿里最终留下341道合格题目 [21] 任务有效性与难度验证 - 用24种模型和框架组合(3个开源模型加闭源较强的Opus-4.8,各配6种框架)做题,每道题至少被一种组合做出来;仅用合成时3个较弱开源模型也能做出95%以上 [24] - 合成阶段不给任何提示时agent平均成功率只有21.3%,341道题里273道被标为难题 [26] - 验证集上GPT-6 Astra第一次做对比例约Pass@1 60%,做8次后Pass@8仍有27.3%的题一次都没做出来;WildAWM完全用开源模型却合成出让GPT-6 Astra都做不对的题 [26] 验证器可靠性 - 在随机抽取的100条agent执行记录(含成功与失败)上,验证脚本Verifier与agent judge多数投票的一致率为95%,Cohen's κ为0.90 [28] - 轻量验证脚本判得与又重又贵的agent judge差不多准,确保RL训练使用的reward足够可靠 [28] - 一致性评估中GLM-5.2作为Agent Judge的Cons.为0.95、Precision 0.98、Recall 0.93、F1 0.95、K 0.90;GPT-5.6-Sol为0.92、0.85、0.98、0.91、0.83;Claude-Opus-5为0.92、0.98、0.88、0.93、0.84;Judge majority为0.95、0.98、0.93、0.95、0.90 [29] - Inter-Judge Agreement方面GLM-5.2 vs. Opus-5为0.97、1.00、0.95、0.97、0.94;GPT-5.6-Sol vs. Opus-5为0.89、1.00、0.80、0.89、0.79 [29] 训练设置与评测基准 - 341道题分三份:100道用于SFT,208道用于强化学习,33道留作验证测试集 [31] - 训练先用GLM-5.2在SFT部分题的100条轨迹做热启动,再跑最多64步强化学习,算法使用GRPO,训练Qwen3.6-35b-a3b和Qwen3.5-4b两个模型 [31] - 评测选8个训练时完全没见过的OOD benchmarks,分三类:web agent(WebArena、Online-Mind2Web)、claw agent(QwenClawBench、ClawEval)、GUI computer-use agent(CUA-Gym、OSWorld-Verified、OSWorld 2.0、Agents' Last Exam) [31] 训练效果 - 两个Qwen模型在8个benchmarks上全部提升;Qwen3.6-35B-A3B平均分从42.84涨到53.42,提高10.58分,在ClawEval、OSWorld-Verified、WebArena和CUA-Gym上分别涨16.67、16.06、13.72和12.22分 [32] - 训练后Qwen3.6-35B-A3B在WebArena上与GLM-5.2打平(67.26),在Online-Mind2Web上超过GPT-5.5(80.77对72.22) [32] - Qwen3.5-4B平均分从21.83涨到30.04,提高8.21分 [32] - 在WildAWM自己的33道验证测试集上,35B-A3B通过率从5.68%提到35.98%,与GLM-5.2(20倍参数)的37.88%已相差不远 [32] - 前沿模型对比中GPT-6-Astra平均分73.11、Opus-5为70.83、Opus-4.8为68.86、GPT-5.6-Sol为65.22、GPT-5.5为64.16、GLM-5.2为63.21 [32] 消融实验 - 每次去掉五道Task质量关卡中的一道重新合成SFT数据训练Qwen3.5-4B,平均分都会下降,降幅在2.60到9.30分之间 [33] - 影响最大的是评判一致和初始未完成两道关卡 [33] - 消融结果:完整WildAWM+SFT平均分31.86;去掉初始未完成降至24.08;去掉评判一致降至22.56;去掉任务可解降至29.26;去掉任务难度降至26.37;去掉反事实探针降至27.91;基线Qwen-3.5-4B为22.25 [34] 强化学习带来的行为改变 - 相邻两次工具调用之间切换接口的比例从18.4%升到25.5%,接近GLM-5.2,说明agent对不同电脑接口使用更熟练、能按需求切换到最合适接口 [35] - RL让模型更能做长任务:在40到120步区间,只做SFT的模型多解出9.7个百分点,完整训练(+RL)的模型多解出17.0个百分点 [35] - RL不能给模型带来超越Teacher model本身的能力:按难度分桶后发现,即使经过RL训练,agent也只能在easy、medium、hard桶中获得提升,无法在teacher model GLM-5.2都不会做的hardest题中取得提升,与主流研究结论一致,即RL只能激发、排列组合base model已有能力 [35] 开源与行业意义 - WildAWM的合成流水线、341个环境和任务、两个训练好的Qwen模型以及整理好的Harbor格式数据集已全部开源 [38] - 从生成环境、出题到判分全过程只用开源模型,不依赖任何闭源前沿模型,可直接使用也可复现 [38] - 研究团队认为这为开源模型指出一条路:自行合成可不断扩大的环境与高质量任务,在其中自我学习迭代,最终成为强大的通用computer-use agent,避免间接蒸馏,为RSI奠定基础 [38] - 资源链接包括论文arxiv.org/abs/2610.26828、数据与模型huggingface.co/collections/ChilleD/agent-world-model-in-the-wild、代码github.com/MSR-Orchard/WildAWM、Harbor数据集hub.harborframework.com/datasets/wildawm、项目主页msr-orchard.github.io/WildAWM [4][39]