文章核心观点 - DrivePI是一种新型的空间感知4D多模态大语言模型，它作为一个统一的视觉-语言-行为框架，旨在通过端到端优化，同时执行空间理解、3D感知、预测和规划任务，从而弥合当前自动驾驶系统中基于视觉的方法与基于VLA的方法之间的差距 [4][6][7] 研究背景与挑战 - 当前自动驾驶系统主要有两种范式：基于视觉的方法（如UniAD、VAD）在空间感知方面表现出色但缺乏自然语言交互能力；基于VLA的方法（如OpenDriveVLA、ORION）具有更好的交互能力但缺乏精细的中间3D感知和预测输出，影响可靠性和安全性 [7][8] - 核心挑战在于开发一个统一框架，结合基于视觉模型的精确空间感知能力和VLA方法的自然语言交互能力 [7] 技术架构与创新点 - 多模态感知：引入激光雷达作为相机图像的补充传感模态，提供精确的3D几何信息，以激发MLLM的空间理解能力 [11] - 精细化空间表示：生成中间的精细3D感知（如3D占用体素）和预测（如占用流）表示，确保输出特征保持可靠的空间感知能力，增强系统的可解释性和安全保障 [11] - 丰富的数据引擎：开发了将3D占用和占用流表示无缝集成到自然语言场景描述中的数据引擎，使模型能够通过文本理解复杂的时空动态 [11] - 统一模型设计：采用端到端联合优化，覆盖3D感知、预测、规划和场景理解等所有任务，用一个MLLM统一了现有的VLA和VA框架 [11] - 架构关键组件包括：多模态视觉编码器（UniLION）、空间投影器、MLLM主干（基于Qwen2.5-0.5B模型构建）、以及四个专用头部（文本头、3D占用头、占用流头、行为扩散头） [11][17] 数据引擎 - 数据引擎分为三个阶段：场景理解注释（使用InternVL3-78B生成前/后视图描述）、4D空间理解注释（利用地面真实占用和流数据生成问答对）、规划推理注释（基于自车未来轨迹生成规划问答对） [18] 实验结果与分析 - 文本理解能力：在nuScenes-QA基准测试中达到60.7%的平均准确率，超过OpenDriveVLA-7B模型2.5个百分点；在存在、对象和状态子类别上分别达到85.3%、57.5%和59.1%的准确率 [19][20] - 3D占用体素感知性能：在Occ3D基准测试上达到46.0%的RayIoU，比之前最先进的OPUS方法提高4.8个百分点；在1m、2m和4m距离上分别达到42.2%、46.7%和49.2%的RayIoU [21][22] - 3D占用和占用流预测性能：在OpenOcc基准测试上实现49.3%的OccScore和49.3%的RayIoU，将占用流mAVE降至0.509；超越FB-OCC的3D占用RayIoU达10.3个百分点，并将流mAVE从0.591降至0.509；比ALOcc-Flow-3D在OccScore上高出6.3%，在RayIoU上高出7.4% [15] - 轨迹规划性能：在nuScenes基准测试中，使用自车状态信息时实现0.40m的L2误差和0.11%的碰撞率，碰撞率比ORION降低70%（从0.37%降至0.11%）；不使用自车状态信息时，L2误差比VAD低32%（从0.72m降至0.49m） [16] 消融研究与分析 - 文本头部与视觉头部的消融研究：当文本头和视觉头结合时，与仅视觉设置相比，统一模型的3D占用RayIoU提高1.8%，占用流mAVE降低0.18，规划L2误差降低0.52m，同时保持60.7%的文本理解准确率，证明了统一框架的有效性 [23][24] - 文本数据规模的影响：使用Qwen-2.5 3B模型并扩大训练数据规模后，模型在占用状态预测的准确率从73%提升到87%，占用类别预测的准确率从14.3%显著提升到59.2% [26] - 多任务学习平衡权重研究：实验表明，较高的3D占用和流损失权重（1.0）在该任务上性能更好，但在规划准确性和文本理解任务上略有降低，最终实现采用了默认权重1.0 [27][28] - MLLM隐藏状态重要性权重分析：分析显示，更深层的Transformer层获得更大的可学习权重，表明高级特征对模型有效性更为关键 [29][30] 可视化结果与能力展示 - DrivePI能够同时生成场景描述、3D占用、占用流、动作和轨迹预测的可视化结果，在粗粒度和细粒度预测之间表现出很强的一致性，验证了其统一语言理解与3D感知能力的有效性 [31] - 在静止等待、直行驾驶和夜间转弯等多种复杂驾驶场景中，DrivePI展示了卓越的性能和适应能力，例如在低光照条件下仍能准确描述环境并生成合理轨迹 [36][39] 主要贡献与未来展望 - 提出了首个统一的空间感知4D MLLM框架DrivePI，无缝集成粗粒度语言空间理解与精细3D感知能力 [39] - 将激光雷达作为补充传感模态，并支持精确的3D感知和预测，增强了系统的可解释性和安全保障 [39] - 尽管仅使用0.5B参数的紧凑MLLM主干网络，其在3D占用和占用流预测方面优于现有基于视觉的模型，同时保持了与现有VLA框架相当的交互能力 [39] - 该框架有望通过语言推理和精细的3D输出，启发未来研究，增强自动驾驶系统的可解释性和可解释决策能力 [38]