Workflow
Synthetic Robot Training Data
icon
搜索文档
全球机器人:HALO通过陌生房间测试Global Robotics-HALO passes the unseen-room test
2026-11-11 21:50
HALO人形机器人研究纪要关键要点 一、涉及公司与行业 - 纪要涉及公司包括苹果(AAPL US,未评级)、宇树科技(688836 CH,买入评级)、Luxonis(未上市)、RealSense(未上市)[1] - 纪要涉及行业为人形机器人、具身智能、物理AI数据采集与仿真训练[1][5] - 报告由野村国际(香港)有限公司(NIHK)发布,分析师为Frank Fan与Donnie Teng,发布日期为2026年11月9日[3][16] 二、HALO核心架构与分层设计 - HALO采用三层控制架构:S2负责决策下一步做什么,S1将决策转化为身体运动,S0在运动过程中保持身体稳定[1] - 以驾驶类比:S2决定在下一个路口右转,S1转动方向盘并操作刹车,S0是每秒进行数十次微修正的稳定性控制[1] - S2是视觉语言模型,读取请求与摄像头画面并以约0.5 Hz频率选择下一个子任务[1] - S1是运动生成器,将子任务与摄像头帧转化为5秒全身运动计划,频率约3 Hz[1] - S0是跟踪器,利用深度、关节传感与IMU以50 Hz频率跟随计划[1] - 平台为改装的宇树G1:加装Mac mini M4 Pro与Luxonis OAK-1W头部摄像头用于S2和S1,S0运行于Jetson Orin NX,深度由工厂RealSense D435i原始红外对通过TensorRT立体模型计算[1] 三、核心实验结果与数据 - 单技能测试:6项技能在6个未扫描真实房间各10次试验,共360次真实试验,平均成功率91%,与100个留出仿真房间中6000次试验结果匹配[1] - 六项技能为Go-To、Sit、Door、Crouch、Crawl、Push,均不涉及抓取物体[1] - 单任务仿真与真实成功率对比:Go-To为98%对92%,Sit为84%对85%,Door为91%对93%,Crouch为95%对100%,Crawl为84%对90%,Push为93%对88%,单任务均值均为91%[6] - 多任务链式测试:1个真实房间中3个序列各10次试验,真实平均成功率70%,其中Crouch→Go-To→Push仅50%[1] - 多任务仿真与真实对比:Door→Go-To为71%对100%,Crouch→Sit为73%对60%,Crouch→Go-To→Push为64%对50%,多任务均值69%对70%[6] - 作者称任务分解保持有效,并将失败归因于步骤间交接;在三步链中,5次失败试验有3次在蹲伏结束时头部朝向偏离箱子[1] - 机器人已通过陌生停车场的"停车测试",但尚未在开放道路上执行包裹配送[1] 四、HALO有效的原因 - 房间多样性比运动数量更重要:仿真Sit测试中,1个房间训练成功率43%,100个房间81%,1000个房间84%[2] - 数据是生成的而非采集的:论文在1000个生成房间中布置162,698个回合,合296.3小时,无需操作员逐个记录;跟踪器第一阶段专家还从LAFAN1人类运动片段学习[2] - 每一层获得所需输入:S1从摄像头图像规划,S0增加深度以放置足部与身体,移除深度使仿真Sit成功率从84%降至74%[2] 五、HALO的局限与不应夸大之处 - 人类仍需编写课程:作者声明每个新任务都需要人编写提示词并制作运动关键帧,论文列出真实G1关节日志(Sit)、站立姿态(Go-To)、手工编辑姿态(Door)、真人手机视频后手工编辑(Crawl、Crouch)以及动作捕捉记录(Push)[2] - 仿真如同复印机:将一个课程复制到一千间教室,但教师仍需编写每个新课程[2] - 机器人无法感知接触:作者称视觉无法直接感知接触,接触密集型任务在物体离开视野后表现变差,并指出触觉传感是自然解决方案[2] - 行业数据与实地调研指向相同局限:仿真适用于刚性抓放,但对软体与流体仍显虚假,仿真数据在2025和2026年被证明不利于预训练[2] - 未测试不等于不可能:GRAIL使用基于3D资产的视频世界模型数据而非HALO式物理仿真,报告在5个已见物体上50次试验真实抓取成功率84%,5个未见物体上80%[2] - 因此未测试抓取是HALO的范围局限,纯仿真抓取能否泛化仍待验证[4] 六、真实数据需求与价值链判断 - HALO保留了真实世界数据需求,但数据价值正从采集者转向买方导向的聚合者、验证与接触数据采集,原始采集利润微薄[5] - 估计一线供应商保留约三分之一的原始小时价格,二线运营商自2026年中以来接近亏损[5] - HALO支持报告中关于接触数据保持溢价而自我中心视频价格通缩的判断[5] - 调查报告显示自我中心数据价格从2026年初的每小时40-50美元降至10-15美元或更低[5] - 低质量自我中心数据价格下跌,而五摄像头高质量数据价格坚挺,实验室按量购买视频但为经过验证的动作数据支付溢价[5] - HALO可能在时间点上偏离报告:报告引用EgoScale与HumanScale论文指出仿真从2027E起锚定窄任务,而HALO显示全身运动现在已可实现[5] - 在报告的反转信号(自我中心数据收益率、遥操作价格、仿真份额)中,HALO是仿真可能开始替代运动任务真实数据的首个迹象,但买方尚未改变采购内容[5] - 更好的触觉不一定意味着更多传感器销售:Ctrl-F告诉G1机器人用多大力推而非让其感受力,部署后无需力传感器,但仍需物体上的印刷标签进行跟踪[5] - 更多照片被拍摄不意味着摄影师收入增加,整理和检查照片的机构获得价值[5] 七、相关论文与竞争路线 - HALO论文为arXiv:2611.06908,2026年11月4日,苹果,完全基于合成程序化布置的房间数据训练人形机器人,机载运行0.5 Hz规划器、3 Hz运动生成器与50 Hz深度跟踪器[7] - Ctrl-F(arXiv:2611.05507,2026年11月3日,UC Berkeley)为人形运动跟踪增加显式力指令,部署时策略无需力测量,但依赖AprilTag标记获取物体状态[7] - TANGO(arXiv:2609.09158,2026年9月8日,UC Berkeley、北京大学、NVIDIA、清华、HKU、普林斯顿)为杂乱环境中人形导航的全身视觉语言动作模型,完全在仿真中训练,与HALO在语言驱动全身运动上竞争但聚焦导航[8] - VLK(arXiv:2606.30645,2026年6月29日,Amazon FAR、UC Berkeley、斯坦福、CMU)在扫描重建场景中生成带接触标签的视觉语言运动学训练数据以学习搬运,以HALO的未扫描房间泛化换取物体搬运能力[8] - GRAIL(arXiv:2606.05160,2026年6月3日,NVIDIA、UCLA)将视频世界模型锚定于3D资产以恢复人-物交互运动,仅用生成数据训练宇树G1策略,报告5个已见物体各10次试验真实抓取成功率84%,5个未见物体80%[8] - ZeroWBC(arXiv:2603.09170,2026年3月10日,USTC、上海AI实验室、清华、SJTU、TeleAI)从人类第一人称视频结合动作捕捉与文本学习全身人形交互,是HALO合成路线的真实人类数据替代方案[8] - 其他相关论文包括Sparsh(基于视觉触觉传感的自监督触觉表征)、AnySkin(可替换磁性皮肤)、ASAP(对齐仿真与真实物理)、HumanPlus(人类阴影与模仿)、OmniH2O(全身遥操作)、ExBody2(表达性全身控制)、HOVER(通用神经全身控制器)、BeyondMimic(引导扩散运动跟踪)、Humanoid Parkour Learning、Perceptive Humanoid Parkour、RPL(挑战地形感知运动)等[10] - 分层语言规划相关论文包括Diffusion Policy、π0、π0.5、GR00T N1、Kimodo、Training-Time Action Conditioning、Hi Robot、Gemini Robotics、Gemini Robotics 1.5、Do As I Can Not As I Say、Infinigen Indoors(HALO用于构建1000个训练房间的程序化生成器)、EgoMimic、EgoVLA等[12][13] - 遥操作与手持采集相关论文包括Cosmos交互式世界仿真、DexMimicGen(仿真中扩增双臂灵巧操作数据但仍需人类种子)、Universal Manipulation Interface(手持夹爪采集机器人就绪演示)、低成本双臂遥操作硬件、TWIST(遥操作全身模仿系统)等[15] 八、其他重要但可能被忽略的内容 - 报告评级分布:60%为买入评级,其中34%为投行客户;38%为中性评级,其中57%为投行客户;2%为减持评级,其中17%为投行客户(截至2026年9月30日)[21][22] - 野村研究服务可能使用人工智能工具辅助数据分析,AI生成内容受主要负责分析师与合格主管审查监督[39] - 报告包含大量合规与免责声明,涉及英国、欧洲经济区、香港、澳大利亚、马来西亚、新加坡、美国、沙特、阿联酋、卡塔尔、台湾、印度尼西亚、中国等多地分发限制[42][43][44][45][46][47][48][49][50] - 报告版权归野村国际(香港)有限公司所有(2026年)[53]