文章核心观点 - 视觉-语言-动作模型在机器人操作中展现出强大的通用性，但在存在环境扰动的分布外场景中泛化能力受限 [1][5] - RobustVLA是一种轻量级的在线强化学习后训练方法，通过引入双正则化策略，旨在明确增强VLA模型对环境不确定性的鲁棒性 [1][4] - 实验结果表明，RobustVLA在观测扰动、动作扰动及联合扰动场景下的平均成功率均显著优于其他先进方法，验证了其有效性 [20][21][23] 当前行业痛点 - 尽管VLA模型得益于大规模多模态预训练，但在部署时面临观测噪声、传感器误差或执行扰动等不可避免的干扰，导致其在分布外场景中无法可靠泛化 [1][5] - 现有的基于强化学习的后训练方法主要强调奖励最大化，但忽视了应对环境不确定性的鲁棒性，使得模型在真实环境中易因微小扰动出现性能大幅下降 [1][5] RobustVLA的设计逻辑与理论基础 - 方法针对环境不确定性，重点考虑了观测噪声和动作噪声及其联合效应 [4] - 通过系统的鲁棒性理论分析，确立了误差放大界限、回报漂移控制以及鲁棒稳定性保证，并由此推导出正则化优化目标 [4][11][13][18] - 核心设计包括双正则化策略：雅可比正则化用于降低模型对观测噪声的敏感性，平滑性正则化用于在动作扰动下稳定策略 [7][8] - 整体优化目标融合了PPO的优势优化以及两种正则化项，由超参数α和β分别控制其强度 [9][10] - 采用自适应噪声调度机制，基于模型的平滑成功率动态调整注入的噪声强度，避免训练初期不稳定并逐步提升抗扰动能力 [15] 核心实验结果 - 在观测扰动场景下，RobustVLA和RobustVLA-C的平均成功率分别达到82.5%和82.2%，显著优于OpenVLA-OFT的80.6%和RIPT-VLA的80.8% [20] - 在动作扰动场景下，RobustVLA和RobustVLA-C的平均成功率均约为54.7%，超过OpenVLA-OFT的53.5%和ARFM的50.1% [21][22] - 在联合扰动场景下，RobustVLA-C以82.1%的平均成功率大幅领先，显示出在线强化学习方法与双正则化策略的协同优势 [23] - 迁移学习实验显示，RobustVLA在“开抽屉”和“放碗”等任务中，相较于零样本迁移分别提升8.0%和16.0%，展现出更强的分布外适应能力 [25] - 消融实验证明，移除任一种正则化都会导致性能下降，双正则化是鲁棒性提升的关键；可视化分析表明RobustVLA的观测表征在扰动下更稳定 [27]

文章核心观点 - 提出视觉-语言-动作智能体VLA² 通过调用多样化工具来增强VLA系统能力 旨在解决现有模型在处理完全陌生概念指令时无法迁移操作经验的问题 [1] - VLA²作为系统级集成框架 能够整合任务规划、网络搜索、目标检测等功能模块 从而突破现有VLA模型的执行能力边界 [1] 方法概述 - VLA²包含三大核心模块：初步信息处理、认知与记忆以及核心模块 [3] - 使用GLM-4V进行任务分解 将复杂指令拆解为可执行的子任务序列 [4] - 利用微调后的MM-GroundingDINO进行目标检测 提取物体与位置的边界框 [4] - 通过视觉路径对未知物体进行网页图像检索 生成关键词并构建视觉记忆 辅助模型重新识别 [4] - 通过语言路径将任务中未见的物体名称替换为模型已知的词汇 实现语义对齐 [4] 核心模块与实验验证 - 在原始的LIBERO Benchmark上 VLA²与SOTA的VLA模型进行对比 在Class 2类别中平均成功率为80.1% 略高于OpenVLA的76.5% [6] - 基于LIBERO环境通过更改物体纹理构建三个难度递增测试场景：Easy仅改变物体颜色、Medium替换为数据集中未出现的物体、Hard引入全新物体如茅台酒瓶和青花瓷碗 [7][10] - 在Hard场景中VLA²成功率大幅领先所有其他SOTA模型 达到76.2% 相比于单纯微调OpenVLA的32.0% 取得了44.2%的优势 [9] - 对VLA²三大关键机制进行消融实验 结果显示视觉掩码注入、语义替换机制和网页检索增强均对模型性能有显著贡献 [11] 总结与展望 - VLA²通过引入外部工具与记忆机制 成功扩展了VLA模型对未知物体的认知与操作能力 为开放世界中的机器人操作任务提供了可行的系统级解决方案 [12] - 未来将进一步探索其在真实世界中的泛化能力 并扩展其支持更多类型的工具与任务 [12]

为此，研究团队提出了 SimpleVLA-RL 。基于veRL框架，他们实现了针对VLA模型的交互式轨迹采样与并行仿真渲染机制。 SimpleVLA-RL团队 投稿 量子位 | 公众号 QbitAI 视觉-语言-动作模型是实现机器人在复杂环境中灵活操作的关键因素。 然而，现有训练范式存在一些核心瓶颈，比如数据采集成本高、泛化能力不足等。 实验结果表明，该框架在LIBERO与RoboTwin等标准基准测试中均实现了 SoTA 的性能。更为关键的是，即便在有限数据的条件下， SimpleVLA-RL依然能够训练出表现优异的模型并具备极高的泛化能力。 在 "单轨迹 SFT"（每个任务仅1条演示数据）场景下，应用SimpleVLA-RL后，OpenVLA-OFT的LIBERO平均成功率 从48.9%提升至96.9% ，长时序任务LIBERO-Long 从17.3%提升至91.7% 。 降低对大规模演示数据的依赖，提升数据效率； 增强模型在分布偏移场景下的泛化能力； 实现高效的Sim-to-Real迁移，提升真实世界任务性能。 SimpleVLA-RL：端到端在线训练方案 VLA模型作为机器人操控领域的重要研究范式，旨 ...

以下文章来源于自动驾驶之心 ，作者Dapeng Zhang等 自动驾驶开发者社区，关注自动驾驶、计算机视觉、感知融合、BEV、部署落地、定位规控、领域方案 等，坚持为领域输出最前沿的技术方向！ 压缩版： VLA (Vision Language Action) 模型的出现标志着机器人技术从传统的基于策略的控制向通用机 器人技术的范式转变 。它将视觉语言模型 (VLM) 从被动的序列生成器重构为能够在复杂动态环 境中进行主动操作和决策的智能体 。 该综述对VLA方法进行清晰的分类和系统性的回顾。 VLA方法主要可分为四类：基于自回归、基于扩散、基于强化学习以及混合与专用方法 。 基于自回归 (Autoregression-based) 的模型 自动驾驶之心 . 核心思想: 将动作序列视为时间依赖过程，逐步生成动作 。 创新与发展: 通用智能体: 通过统一的多模态Transformer（如Gato, RT-1/RT-2, PaLM-E）实现跨任务的泛化 。 推理与规划: 结合大语言模型 (LLM) 进行链式思考 (Chain-of-Thought) 和分层规划，处理长时程 和复杂任务 。 轨迹生成: 直接将语言指 ...

技术突破 - 首次将掩码扩散模型引入机器人动作生成领域 基于预训练多模态大语言扩散模型微调 支持并行化动作轨迹预测[5] - 提出局部化特殊Token分类技术 将连续动作空间离散化为32个动作Token 仅在动作相关Token集合计算交叉熵损失 非动作Token被屏蔽[8][12] - 开发层级化动作结构解码策略 显式建模动作间与动作内依赖关系 采用先粗后细生成方式提升轨迹连续性[9][13] 性能表现 - 在SimplerEnv环境平均成功率55.5% 超越CogACT模型4.2个百分点[14][21] - 在CALVIN环境平均任务长度4.01 超越OpenVLA模型0.74[14][21] - 真实机械臂WidowX测试平均成功率58% 较π0模型提升23个百分点 较CogACT提升28个百分点[15][21] 模型架构 - 输入为自然语言指令和场景RGB图像 输出多步离散动作序列 每步动作由7个Token表示三维位置变化 三维旋转变化和夹爪状态[7] - 采用SigLIP-2视觉编码器提取特征 基于LLaDA扩散式大语言模型融合多模态信息 通过投影器实现跨模态统一[10] - 通过动作级置信度估计和重采样机制 优先保留高置信度动作 对低置信度动作进行Token级精细重采样[16] 实验验证 - 在SimplerEnv高拟真仿真平台测试精准操作任务 在CALVIN长时序仿真评估多步骤任务 使用ABC-D设置验证泛化能力[17] - 消融实验显示单独使用LSC技术使平均任务长度提升0.79 叠加HAD技术后进一步提升0.58至4.01[18] - 真实机器人测试包含8个操作任务 涵盖域内任务如"将草莓放入碗中"和域外任务如"将立方体放入未知容器"[17]