具身智能进入Agentic Robotics时代?清华、伯克利开源统一RUA框架
机器之心·2026-11-11 19:02

文章核心观点 - Anthropic发布Fable 5.2模型在物理机器人控制能力上明显提升,在RoboDojo Sim仿真评测中以64.9%得分远超GPT-6 Astra的29.8% [1][2] - 通用模型负责高层推理和任务规划、底层策略负责具体动作执行的System 1/System 2分工思路已初步验证可行性 [4] - 当前RUA发展面临两大关键问题:闭源前沿模型无法获取权重难以持续训练,不同机器人硬件和仿真环境差异显著导致跨环境迁移成本居高不下 [5] - 清华大学丁宁、刘知远、徐梦迪、周伯文团队联合加州大学伯克利分校Pieter Abbeel团队推出并开源uni-robot-agent,为RUA建立统一模块化Harness [5] - 该框架证明在信息组织得当、工具反馈可靠的前提下,开放权重模型也可以在仿真和真机上取得有竞争力的表现 [102] 统一接口为何是跨环境泛化的基础 - Coding Agent领域同一套工具可用于不同编程任务,模型通过相似接口读取文件、执行代码、查看结果,能在不同环境复用工具使用经验 [14] - 机器人操作涉及更多硬件差异,即使都是抓取物体,单臂和双臂机器人的动作接口也可能不同,原有工具调用经验难以直接迁移 [14] - uni-robot-agent通过统一工具接口打通差异,Franka单臂堆叠积木、ALOHA双臂物体交接、YuMi双臂插销插孔等不同任务均可调用统一的感知、运动、技能和任务控制接口,由底层适配器处理控制差异 [15] - 接入新环境时开发者主要需实现对应适配器,减少对上层Agent逻辑的修改 [16] - 统一接口使不同环境的交互轨迹更容易汇集到同一数据体系,为跨环境Agent训练创造条件 [21] uni-robot-agent的系统设计 - 设计围绕两个目标:为跨环境Agent训练提供统一基础,尽可能客观评估通用模型已有的机器人操作能力 [23] - 系统划分为Agent、Orchestration、Tools、Services和Backends五层,分别负责模型交互与任务决策、工具请求调度、统一操作接口、运行资源管理、连接具体机器人和仿真器 [23] - 模块化结构支持独立替换模型、工具和机器人后端,可在不重写整套系统的情况下比较不同模型表现并积累结构一致的交互数据 [26] - 客观评测要求贴近真实部署条件,主要仿真实验只向模型提供RGB图像、相机标定、机器人本体状态与任务指令,不提供深度真值、物体CAD资产、隐藏场景标注或任务验证器反馈,也不允许外部网络访问 [26] - 框架将相机图像、标定信息和机器人状态绑定到同一时刻以减少状态不同步带来的定位偏差,通过请求去重避免重复操作并监测机械臂运动状态识别动作停滞或执行异常 [35] - 引入异步执行,模型可在部分工具运行期间继续处理其他工作,同一机械臂上的运动请求按顺序排队避免指令冲突 [36] 仿真实验验证结果 - RoboDojo基准包含42项机器人操作任务,覆盖泛化、精细操作、长程执行、记忆和开放词汇指令五个维度,主要实验每组进行252次评测 [40] - 相同Qwen3.8-Flash-Next模型下,RoboProbe仅取得1.90分,RPent为7.75分,结合π₀.₅的GAP Hybrid达到21.01分 [43] - 换成uni-robot-agent后Qwen成绩提升至31.39分,成功率达到25%,相比RoboProbe综合得分提高29.49分 [44] - 即使模型权重保持不变,工具系统的设计也可能显著影响机器人操作表现 [45] - DeepSeek-V4.1-Flash取得27.11分,GPT-6 Astra达到51.90分,成功率为46.67% [46] - 不同模型优势并不相同,Qwen和DeepSeek在记忆、开放词汇任务上表现相对好于精细操作和长程执行,部分专用VLA、WAM模型则在长程任务上更有优势 [46] 真机测试结果 - 研究团队使用双臂机器人开展19项操作评测,覆盖空间理解、物体泛化、指令遵循、组合泛化和未见任务五个维度,具体任务包括试管插架、双臂传递瓶子、按颜色顺序堆叠积木、擦白板和汉诺塔等 [47] - GPT-6 Astra取得80.50分,其中组合泛化维度获得满分20分;Qwen取得53.50分,领先经过任务微调的π₀.₅和零样本Dream-1 [49] - π₀.₅总分47.75分,Dream-1总分43.50分 [50] - 对比存在输入条件差异,Qwen和Astra使用RGB图像及RealSense D405传感器提供的深度信息,π₀.₅和Dream-1只使用RGB,成绩差异不能完全归因于模型本身 [51] - 同时提供深度和相机标定时Qwen取得35.89分,移除深度保留标定为31.39分,进一步移除标定仅保留RGB图像及机器人自身状态降至9.13分 [52] - Astra在对应设置下分别取得55.83、55.04和31.29分 [53] - 模型可借助相机标定、多视角观察和几何计算在没有直接深度测量时完成部分空间定位任务,但缺少标定后操作表现明显下降 [56] 技能库与成本分析 - 关闭技能库及技能编写功能后Qwen综合得分仅从31.39降至30.31,保留原成绩的96.6%,成功率从25%降至24.58%,表明表现并不主要依赖预先封装的任务技能 [57] - Qwen平均每次任务API费用约1.09美元,DeepSeek为0.94美元,Astra达到21.29美元 [60] - 综合得分首次达到25分时,Astra累计消耗约740万Token用时42.6分钟,Qwen消耗2350万Token用时95.5分钟,DeepSeek消耗4990万Token用时99.2分钟 [64] - 五项任务中流水线执行耗时均短于串行执行,降幅为4.8%至73.7%,传送带抓取任务耗时从约59.7分钟缩短至15.7分钟 [66] 通用模型机器人操作能力的来源分析 - 研究团队比较13个不同家族、代际和规模的模型,发现机器人操作能力与模型规模、发布时间并不存在简单对应关系 [69] - Qwen3.5、3.6和3.7模型均未取得完整任务成功记录,Qwen3.8的27B模型成功率达到8.06%,Flash-Next提升至25%,27B模型参数规模更小却能完成部分旧版大模型无法完成的任务 [72] - GPT-5.6 Sol成功率19.17%,GPT-6.1 Sol提升至37.50%,GPT-6 Astra进一步达到46.67% [73] - 机器人操作能力可能早已出现在通用模型中,其提升可能与训练数据分布、能力组合及模型训练方式有关 [74] - 四类关键能力包括视觉理解、空间定位、几何计算和具身推理 [80][82][83][84] - 部分旧版模型视觉理解错误比例达12.2%至23.8%,Qwen3.8-Flash-Next对应检查样本中未发现此类错误 [81] - 即使是GPT-6.1 Sol仍有约31.5%的相关三角测量调用未能通过几何一致性检查 [83] - 部分旧版Qwen模型几何计算错误比例达47.3%至81.8%,Qwen3.8-Flash-Next降至8.2%,DeepSeek-V4.1-Flash进一步降至1.5% [83] - 视觉理解、具身推理、空间定位和代码能力与机器人表现存在不同程度相关性,操作机器人的能力可能是不同领域基础能力组合泛化的表现 [84] 框架兼容的多种模式 - Code as Policy让模型通过编写代码操控机器人,Qwen在252次评测中取得25.60分,精细操作维度达到17.40分但整体表现仍有差距 [88] - Hybrid模式让VLM与VLA协作,VLM负责理解指令分析场景组织任务,VLA根据观测生成动作片段,已在Panda机械臂搭配Allegro灵巧手、宇树Go2四足机器人、宇树G1人形机器人和R1Pro轮式机器人等平台仿真场景中展示,并接入π₀.₅、GR00T和NaVILA等动作模型 [91] - Clean Mode只保留move、hold、finish、capture_scene四个基础工具,带相机标定设置下Qwen和Astra分别保留完整工具配置90.4%和90.5%的得分,平均token用量减少35.7%和78.8% [92] - 团队接入ARX One、松灵Piper-X等真机,智元G2和宇树G1也在接入中,不同硬件控制差异由底层适配器处理 [95] 行业意义 - 传统专用策略路线高度绑定硬件,扩展成本高,面临泛化和长程问题,uni-robot-agent路线让通用模型直接通过统一接口操控机器人,扩展逻辑明显不同 [100] - uni-robot-agent是OpenRUA项目推出的第一个开源成果,OpenRUA由来自顶尖高校和前沿实验室的研究人员发起,目标为能够在物理世界中行动的Agent建立开放基础设施 [100] - 接下来的关键在于能否利用交互数据持续更新模型,基础设施已搭好,后续训练与演化才刚刚开始 [103]

具身智能进入Agentic Robotics时代?清华、伯克利开源统一RUA框架 - Reportify