分层协同架构
搜索文档
深度 | 人形机器人系列专题之具身模型:RT-2→OpenVLA→π系列的架构演进【国信汽车】
车中旭霞· 2026-11-16 14:53
文章核心观点 - 具身模型是推动机器人从传统自动化执行向自主感知、认知与决策升级的核心技术,承担环境语义理解、自然语言解析、长时序任务规划及多模块协同调度等高阶认知任务 [11] - 科技大厂依托通用模型开发、多模态理解、算力平台与模型工程化积累,持续向具身智能领域布局拓展,有望加速具身智能技术突破并加快模型迭代及机器人应用落地 [4][8] - VLA(视觉-语言-动作)模型将视觉观测与语言指令转化为机器人动作,已成为具身模型的重要技术路线 [4][11] - 通用模型具有较强高层规划能力,推动具身模型S2/S1/S0分层协同,面向复杂长时序任务兼顾高层推理与实时响应 [4] - π系列VLA模型分层架构逐步完善,高层规划与动作执行分工更加清晰,提升复杂任务自主执行能力 [4] 一、具身模型:科技大厂加速布局,通用模型向具身拓展 1.1 具身模型定位与技术路线 - 具身模型作为机器人系统的认知与决策中枢,核心在于将人类开放式语言指令与多模态传感器环境信息结合,转化为可执行的任务规划与机器人动作,实现从人类意图理解到物理世界交互的完整闭环 [11] - 2023年Google DeepMind提出RT-2,将视觉、语言与机器人动作统一编码为Token并纳入同一Transformer架构,将动作预测转化为自回归序列建模任务,实现视觉语言预训练知识向机器人控制能力的迁移,显著提升零样本泛化能力,推动VLA架构发展 [11] - VLA模型通过视觉编码器、语言编码器与动作解码器协同处理,融合机器人本体、外部环境及语言交互的多源感知信息,逐步生成从低阶控制命令到高层轨迹规划的动作策略 [42] - 视觉编码器负责从高维图像或点云中提取紧凑语义特征;语言编码器将自然语言指令转换为语义向量;动作解码器将融合后的多模态表征转化为具体动作 [42] 1.2 科技大厂具身智能布局 - Google以Gemini Robotics ER与Robotics 2.5衔接高层推理和动作执行,并利用Gemini 4 Argon辅助数字孪生构建和仿真实验 [4][12] - NVIDIA以Cosmos、GROOT 2和Isaac Lab推进世界预测、动作生成与仿真训练协同,配套仿真训练、数据处理及评测工具 [4][9] - OpenAI的GPT-6 Astra已被银河通用等机器人公司用于接入机械臂,尝试直接生成动作及协同VLA控制 [8][9] - Anthropic的Fable 5.2在仿真双臂评测和真机操作中能力明显提升,并公布仿真双臂机器人评测结果 [4][9] - Apple通过HALO衔接任务规划、全身运动生成与运动跟踪,探索人形机器人分层自主执行 [4][9] 1.3 GPT-6 Astra空间理解与具身推理表现 - 在宇树公布的评测中,GPT-6 Astra在空间指代定位、放置位置定位和具身推理问答三项测试得分分别达79.6、69.0和77.7,较GPT-5.6-sol分别提升36.5%、35.0%和19.9% [13][17] - RoboDojo实验中,Astra Direct在50次任务中成功13次,成功率26%,平均得分37.81,排名第3;Astra+π0.5成功次数提高到24次,成功率达48%,平均得分升至62.60,排名升至第1 [18] - RoboLab实验中,GPT-6 Astra Direct在50次实验中成功49次,成功率98%;Astra+π0.5完成46次,成功率92%,成功率远超其他模型,且Astra未针对任务进行额外训练,具备零样本泛化能力 [18] - Astra与π0.5协同机制为:π0.5先提出未来50步动作(关节角度),调用正运动学模块翻译成末端位姿,Astra检查上一步结果与下一段动作方向并从三种执行方式中选择一种执行 [23] 1.4 Anthropic Fable 5.2表现 - RoboDojo Sim评测中,Fable 5.2根据摄像头图像控制仿真双臂机器人,平均得分达64.9%,较Fable 5.1的27.6%提高37.3个百分点,约为GPT-6 Astra的29.8%的2.18倍 [30] - Fable 5.2控制实体机器人完成解谜方块、拧开瓶盖和绘制机器人图案,官方称这些任务未经明确的专项训练 [30] - 文本输出速度相较Fable 5.1最高提升30% [30] - 标准API输入价格由每百万tokens从10美元降至8美元,输出价格由50美元降至40美元,两项降幅均为20% [30] 1.5 Google Gemini 4 Carbon表现 - Gemini 4 Carbon基于通用多模态模型Argon进一步迭代,面向更复杂推理任务,通常使用更多推理tokens [27] - 输入包括任务指令、顶部及左右腕三路摄像头图像,以及关节位置、末端位姿、夹爪状态和估计关节扭矩;输出工具调用指定机械臂末端目标位置、姿态和夹爪开合,执行系统通过逆运动学转换为关节运动 [31] - RoboDojo-RC Tier 1评测中,Carbon在"三个碗堆叠"任务上取得20/20、100%完整成功率,Argon为15/20、75% [29][31] - 覆盖六项任务合计120轮试验时,Carbon平均进度分54.5%,较Argon的48.2%提高6.3个百分点;按任务完整完成统计,Carbon成功29轮,完整成功率约24.2% [31] - 叠碗任务平均耗时约27.7分钟/轮;六项任务合计120轮平均耗时约32.1分钟/轮 [31] 1.6 Google Gemini Robotics 2.5表现 - 覆盖200多项机器人任务,展示使用夹具取放食物、系蝴蝶结、移液等操作,精细操作和软物体处理方面明显提升;奔驰生产线概念验证中,Apptronik Apollo 2人形机器人完成汽车零部件分拣与装盘,成功率达96% [36] - 相对此前基线,不同类型任务成功率明显提高,任务完成速度提高20%-30% [36] - 模型架构为专用VLA动作模型与高层具身推理模型协同:Gemini Robotics ER负责理解环境、组织多步任务和跟踪执行进度,2.5负责具体动作执行,适用机器人覆盖双臂平台及人形机器人,能够控制平行夹爪、灵巧手和全身运动 [37] 1.7 Apple HALO分层模型架构 - 采用分层架构:VLM任务规划器+VLM-DiT运动生成器+强化学习运动跟踪器;任务规划器默认采用Qwen3.6-35B-A3B负责任务理解、子任务拆解和执行进度判断;运动生成器使用Qwen3.5-2B理解图像与子任务文字,通过DiT生成全身参考运动;底层运动跟踪器结合参考运动、深度图、关节状态和IMU持续调整关节目标 [24] - 功能分工可类比为S2任务规划、S1运动生成、S0运动控制 [24] - 核心数据在仿真中生成,核心配对语料包含约16.3万条片段、296.3小时数据,覆盖6类技能、10条训练指令,主要数据生成使用250张H100耗时约48小时 [24] - 与Astra+π0.5的区别:Astra+π0.5主要完成细粒度操作控制(manipulation),苹果HALO主要是移动控制(locomotion),如行走、俯身、爬行、坐下等 [24] 二、架构解析:一段式与分层架构,复杂任务凸显分层协同价值 2.1 一段式架构 - 在统一模型中完成理解与动作预测,输入视觉观测与语言指令,通过统一模型预测机器人动作,动作可表示为离散词元或连续控制目标 [44] - 视觉、语言与动作共享模型表征,通过动作学习将场景理解与操作行为关联,RT-2、OpenVLA等采用这一思路 [44] - 优势为整体流程紧凑、便于多模态联合学习;挑战为复杂长任务中的误差累积、推理过程解释及大模型推理开销是优化重点 [44] 2.2 分层架构 - 高层确定操作目标,低层生成执行动作;高层规划根据视觉观测与语言指令生成子任务、目标位置或运动轨迹等中间结果,明确当前操作目标;低层执行接收高层目标与最新环境观测,将目标转化为机器人动作并结合执行反馈持续调整 [44] - 优势为任务分工清晰、便于多步骤规划与技能复用;系统性能取决于层间接口、信息传递及规划与执行的协同效率 [44] - 架构取舍需结合任务时长、实时响应要求、训练数据条件及系统集成成本 [47] 2.3 S2/S1/S0分层协同 - System 2为高层语义理解、任务推理与规划层,搭载多模态语言模型,负责理解语言指令、识别场景并拆解任务,输出语义目标引导S1生成动作;Helix 01版本中S2频率为7-9 Hz [54] - System 1为VLA动作策略层,根据推理结果、摄像头、触觉传感器和机器人状态生成下一步动作,以200 Hz频率生成全身关节目标,采用全异步执行模式,上一组动作序列段执行的同时系统已完成下一组序列段生成准备 [54] - System 0为全身运动控制层,Figure的S0架构是1000万参数的神经网络,输入全身关节状态和基座运动,输出1kHz关节级执行器命令,直接从超过1000小时的关节级重定向人体运动数据集中学习协调力、调整姿势、保持平衡 [54] - HumanPlus的S0层HST为经过训练的全身运动控制网络,读取参考动作和身体状态历史计算关节控制指令,每秒运行约50次 [55] - 通用模型与动作策略协同已展示互补价值,当前阶段通用模型更适合优先承担S2层高层决策;10项RoboDojo仿真任务中Astra与π0.5协同成功率达48%,高于Astra直接控制的26% [56] 三、VLA模型发展脉络:从RT-2到π系列的架构与能力升级 3.1 RT-2:首次将动作当作文本token处理 - 将机器人动作编码为文本Token,在统一模型中完成视觉理解、指令理解与动作预测;以预训练PaLI-X或PaLM-E为骨干,图像经ViT编码后与文本信息共同输入模型,以自回归方式逐个生成动作Token [45] - 模型将动作离散成若干整数,其中一个表示结束或无动作,另外三个表示末端位置增量,还有三个表示旋转增量 [66] - 训练时不需要新增任何参数,将网络图文问答数据与机器人数据混合训练 [66] - 存在问题:输出速度慢,采用LLM架构,当时使用的55B模型每秒只能输出一到三个动作(1~3Hz),实际无法使用 [66] 3.2 OpenVLA:开源VLA降低部署与适配门槛 - 模型架构增加视觉编码器,使用SigLIP和DinoV2两个视觉编码器并将二者拼接,语言模型采用Llama2 7B,输入图片和指令,输出由动作Token组成 [73] - 使用约97万条轨迹训练,宣称使用64张A100显卡训练14天,在Bridge数据集上成功率达70.6%,超过RT-2所使用的55B大模型 [73] - RT-2和OpenVLA共同问题:均采用语言模型推理架构,每次推理只输出一步动作,控制频率最高只有6Hz左右,对能以50Hz运行的机械臂速度不够用;模型只输入单张图像,没有本体状态,也没有记忆或历史信息 [73] 3.3 π0:分层VLA架构,基于流匹配提升动作输出效率 - 一个训练样本对应一个时间序列,一个时间步后面连接50个动作;采集9亿300万个时间步数据,合计一万多小时,包含七种机器人构型和六十八类任务 [74] - 左侧为Google开源的VLM Gemma,采用SigLIP作为图像编码器(四亿参数);最重要区别是为Gemma增加Action Expert(3亿参数),以流匹配为基础一次生成全部50个动作 [74] - 训练模式借鉴LLM:先大规模预训练覆盖更多任务、场景和机器人,再后训练筛选高质量数据微调,使模型执行任务更流畅稳定 [74] 3.4 π0.5:分层VLA架构,增强陌生环境泛化 - π0存在问题:所有评测和训练数据在相同环境采集,未验证泛化能力;动作为原子动作相对简单;Action Expert流匹配机制训练阶段速度较慢 [77] - π0.5目标:只给一句话机器人就能在训练时完全没见过的家庭或其他环境中自动完成任务,一次任务时长扩展到10~15分钟;提高训练和推理中动作生成速度 [77] - 预训练阶段输入侧将本体状态全部离散化为文本Token,与图像、指令一起放入VLM统一编码;输出侧VLM能输出文本生成子任务、图片描述,也能输出离散动作Token加快预训练速度,完全转变为全Token化语言模型范式 [77] - 后训练阶段骨干模型、Action Expert与π0相同,区别在于π0.5只在后训练阶段加入Action Expert,使用高质量数据训练Action Expert提高动作输出速度和精度 [77] 3.5 π*0.6:引入强化学习,从自主运行与人工纠正中改进策略 - π0/π0.5采用模仿学习,训练数据来自遥操作,隐藏假设为数据中每个动作都正确、所有样本一律平等;存在复合误差累积和模型上限为人类水平的问题 [78] - π*0.6采用Gemma 3 4B骨干和8.6亿参数动作专家生成连续机器人动作,通过RECAP引入强化学习,结合示范、自主运行和人工纠正数据,利用价值模型估计动作优势并将优势标签作为策略训练条件 [78] - 任务表现:一台机器人可连续工作13个小时不间断制作浓缩咖啡,可前往从未去过的陌生家庭操作此前未见过的衣服,可连续工作两个多小时全程无需人工干预,可进入工厂组装实际使用的包装纸箱;在难度最高的几个任务上比π0.5失败率降低约一半 [78] 3.6 π0.7:分层VLA架构,引入高层策略S2和世界模型 - π0、π0.5和π*0.6只能处理当前看到的这一帧画面,无法记住之前任务;π0.7采用分层记忆架构(短期稠密记忆+长期稀疏记忆),短期记忆使用改造后的视觉编码器把最近几秒画面压缩进当前帧表示,长期记忆由高层输出更新后的语言摘要并在下一步执行时读取更新 [81] - 高层策略输入当前观察、整体任务、历史记忆与元数据,输出下一条子任务指令,子任务既可由高层模型生成也可由人类逐步提供 [86] - 世界模型基于BAGEL,依据当前观察、子任务和元数据生成近未来多视角子目标图,将物体布局、机械臂与物体相对关系等空间目标具体化 [86] - 视觉语言主干将当前及历史图像、本体状态、任务与子任务、可选子目标图、元数据和控制模式编码为上下文表示 [86] - 动作专家包含8.6亿参数,通过注意力读取主干上下文,结合带噪动作与去噪时间步,采用流匹配迭代生成未来50步动作,输出关节目标或末端位姿及夹爪指令 [86] - 模型输入逐步丰富:π0.5加入子任务信息,π*0.6加入优势条件,π0.7进一步引入视觉子目标、执行时长、质量、错误标记及控制模式 [91] - π0.7对数据进行质量、时长和错误等标注,使示范、自主执行及失败经验都能用于训练;执行时模型根据期望质量、时长等条件生成动作,并可通过视觉子目标明确物体应达到的位置和状态 [91] 3.7 π系列演进脉络总结 - 架构演进:π0形成"视觉语言主干+动作专家"基础架构;π0.5加入子任务预测将任务拆解与动作生成结合;π0.7进一步设置独立高层规划模型并通过世界模型生成可选目标图像 [96] - 训练升级:从学习示范拓展至利用自主执行经验,π*0.6通过RECAP结合示范、自主操作与人工纠正改善执行可靠性和效率,π0.7通过质量、速度等条件描述帮助模型学习不同操作方式 [96] - 能力拓展:机器人逐渐能够自主完成更复杂任务,从掌握多种操作技能走向陌生环境适应与技能组合,π0.5增强新环境任务执行能力,π0.7进一步展示指令遵循、技能组合与跨机器人迁移能力 [96]