点击下方 卡片 ，关注" 自动驾驶之心 "公众号 戳我-> 领取 自动驾驶近15个 方向 学习 路线 可以说VLA是当前自动驾驶量产一个新的里程碑，业内很多公司都在布置人力研发。从E2E+VLM到VLA，技术呈现递进式的发展。最近很多小伙伴也联系到我 们，其中不乏传统规控、感知、预测方向的小伙伴表示想转VLA。可是苦于技术栈涉及面太广，转行无从下手，网上也没有很好的学习资料， 为此我们联合国内 TOP主机厂算法专家，打造了《端到端与VLA自动驾驶小班课》！技术专家带你深入端到端与VLA算法原理与技术开发，今日正式开课！ 全面了解端到端自动驾驶 第一章 深入学习端到端背景知识 第二章 大语言模型 BEV感知 扩散模型理论 强化学习与RLHF DEEPSEEK及LLM优化技术 二段式端到端到底是个啥? 第三章 港科技PLUTO 浙大CARPLANNER(CVPR'25) 中科院最新PLAN-R1 一段式端到端的全面学习 第四章 基于感知的一段式端到端 基于世界模型的一段式端到端 基于扩散模型的一段式端到端 基于VLA的一段式端到端 两大实战直击科研&落地第一线 独家大作业RLHF微调 第二章 揭秘大模型强化学习神 ...

点击下方 卡片 ，关注" 自动驾驶之心 "公众号 戳我-> 领取 自动驾驶近30个 方向 学习 路线 今天自动驾驶之心为大家分享 中国科学技术大学 最新的工作！ 突破Transformer瓶颈！GMF-Drive：门控Mamba融合+空间感知BEV 的端到端自动驾驶框架！ 如果您有相关工作需要分享，请在文末联系我们！ 论文作者 | Jian Wang等 编辑 | 自动驾驶之心 端到端自动驾驶已经成为行业中普遍认同的方案，它能够直接将原始传感器输入映射成为驾驶动作，从而减少对多阶段中间表示的依赖以及信息损失。最新的工作中，比 如像 DiffusionDrive 和 GoalFlow 这样的扩散式规划模型，展现出了在生成多样且高质量驾驶轨迹方面的强大能力。展开来说，VLA的架构也可以基于VLM+轨迹生成的 模块实现，所以近来的很多工作都聚焦在端到端和、VLA两个大方向上。 然而，尽管轨迹规划模块取得了显著进步，一个关键的瓶颈依然没有被充分解决： 多模态融合架构 （multi-modal fusion architecture），也就是 如何整合不同传感器的异 构输入 。当前的主流方法大多采用 TransFuser ...

自动驾驶之心知识星球，截止到目前已经完成了产业、学术、求职、问答交流等多个领域的闭环。几个运营的小伙伴每天都在复盘，什么样的社区才是大家需要 的？我们有没有什么地方没有考虑到？花拳绣腿的不行、没人交流的也不行、找不到工作的更不行。星球内部为大家梳理了近40+技术路线，无论你是咨询行业 应用、还是要找最新的VLA benchmark、综述和学习入门路线，都能极大缩短检索时间。星球还为大家邀请了数十位自动驾驶领域嘉宾，都是活跃在一线产业界 和工业界的大佬（经常出现的顶会和各类访谈中哦）。欢迎随时提问，他们将会为大家答疑解惑。 我们是一个认真做内容的社区，一个培养未来领袖的地方。 点击下方 卡片 ，关注" 自动驾驶之心 "公众号 戳我-> 领取 自动驾驶近15个 方向 学习 路线 双非的同学还是很难的，尤其是自驾算法方向的同学。。。 最近有双非的同学咨询我后续的学习建议，多传感器融合定位方向但学东西都不是很精，现在考虑毕业找工作开始发愁。。。 （向峰哥和柱哥提问，欢迎加入『自动驾驶之心知识星球』） 对于双非的同学，我真心的建议一定要找对圈子。身边的同学五花八门，学习氛围不是很浓，意志不强很容易被带偏。技术短板只要肯 ...

理想i8与VLA司机大模型 - 理想i8成为首款搭载VLA司机大模型的理想车型 核心能力包括空间理解 思维能力 沟通与记忆能力以及行为能力 [2] - VLA能力提升体现在三方面 更懂语义（多模态输入） 更擅长推理（思维链） 更接近人类驾驶直觉 [2] - 行驶中可响应自然语言指令如"靠边停一下""往前走50米" 并能根据记忆设定路段速度 主动规避障碍 [5] VLA技术发展现状 - VLA是自动驾驶量产新里程碑 技术从E2E+VLM递进发展 行业多家公司投入研发 [7] - 技术栈涉及大语言模型 BEV感知 扩散模型 强化学习等多领域 转行门槛较高 [19] - 当前招聘需求旺盛 VLA算法专家岗位薪资达40-70K 量化部署工程师40-60K [15] 端到端自动驾驶课程体系 课程内容架构 - 第一章概述端到端发展历史 从模块化到一段式 二段式及VLA范式的演进 [26] - 第二章重点讲解大语言模型 BEV感知 扩散模型等背景知识 覆盖未来两年高频技术关键词 [26][33] - 第三章解析二段式端到端 包括PLUTO CARPLANNER(CVPR'25)等经典算法 [27] - 第四章深度剖析一段式端到端子领域 涵盖UniAD 世界模型 扩散模型及VLA前沿方案 [28][30][32][35] 教学特色 - 采用Just-in-Time Learning理念 通过案例快速掌握核心技术栈 [21] - 配套RLHF微调大作业 可迁移至VLA算法 提供ORION等实战项目 [35][37] - 课程目标使学员达到1年经验算法工程师水平 掌握BEV感知 多模态大模型等关键技术 [42] 行业技术趋势 - 世界模型应用广泛 涵盖场景生成 端到端驾驶及闭环仿真 成为近年热门方向 [30] - 扩散模型与VLM结合实现VLA 多模轨迹预测提升环境适应性 多家公司尝试落地 [32] - VLA技术上限高但难度大 小米ORION 慕尼黑工大OpenDriveVLA等方案推动量产进程 [35]

端到端自动驾驶技术发展 - 端到端自动驾驶近年来发展迅速，对工业界和学术界均产生深远影响，但现有工作过度关注自车状态作为唯一学习目标，缺乏面向规划的理解能力 [2] - DistillDrive框架通过异构蒸馏显著降低自动驾驶碰撞率50%，闭环性能提升3个百分点 [2] - 与感知分离的规划模型相比，端到端模型直接从传感器输入学习到最终规划决策，减少级联误差但闭环表现较差 [3] DistillDrive技术创新 - 采用多模态解耦规划模型作为教师模型，通过知识蒸馏监督端到端模型的运动引导实例交互 [6] - 引入强化学习优化状态到决策的映射关系，利用生成式建模构建面向规划的实例 [6] - 主要贡献包括：多模态实例监督蒸馏架构、基于强化学习的状态优化、生成模型实现的分布级交互 [7] 技术实现细节 - 教师模型包含智能体编码器、场景编码器、规划解码器、预测头和状态优化模块 [20] - 学生模型采用稀疏场景表示和生成模型中的规划导向交互，通过KL散度监督分布 [25][27] - 知识蒸馏架构包含编码器实例蒸馏、解码器实例蒸馏和运动属性蒸馏三阶段 [30] 实验验证结果 - 在nuScenes数据集上碰撞率降低50%，L2误差减少10%，闭环性能提升3个百分点 [37] - NAVSIM数据集上PDMS指标比Transfuser高出2.5%，DAC和EP指标显著提升 [38] - 感知性能与SparseDrive相当，但在IDS等指标上有所提升 [39] 行业技术发展 - 端到端自动驾驶技术快速发展，UniAD利用注意力机制集成检测跟踪建图，VAD通过向量化表示平衡准确性与性能 [9] - 知识蒸馏在自动驾驶规划领域应用广泛，Roach、PlanKD和Hydra-MDP等采用不同蒸馏策略 [11] - 强化学习在CARLA等仿真环境中应用成熟，结合模仿学习可防止分布外值过度估计 [14][16] 未来发展方向 - 计划将世界模型与语言模型结合提升规划性能 [55] - 采用更有效的强化学习方法理解场景语义几何空间与决策规划空间关系 [55] - 行业正形成大模型、VLA、端到端、数据闭环等技术交流社区，涵盖30+技术方向 [58][60]

点击下方 卡片 ，关注" 自动驾驶之心 "公众号 戳我-> 领取 自动驾驶近15个 方向 学习 路线 具身智能无疑是今年最热的方向。从几年前的沉寂到去年的疯狂，再到25上半年开始逐渐冷静。大家慢慢回过神来，具身机器人还远远未到生产力的阶段。 （向峰哥和柱哥提问，欢迎加入『自动驾驶之心知识星球』） 以下是知识星球内部一位双非同学的提问，非常有代表性： 各位大佬们好，我目前是一个双非的研究生，我的研究方向是多传感器融合定位的，然后学过python，深度学习，ros，但都学的不是很精，现在想多学一点为 以后找工作用，感觉算法岗我的学历可能不太行，请问各位大佬们我应该往哪个方向学比较好呢？具身智能感觉也还不太成熟，不确定这波热度能到什么时 候？请问各位大佬后面应该学些什么知识呢？ 星主回答：你的技术栈都比较偏机器人一些，SLAM和ROS这块都可以尝试一下和机器人/具身智能打交道。这块需求也比较大，可以做一些优化、集成类工作~另 一方面，我们了解到大一些的公司各家的hc都不是很高，要求基本上都是端到端、大模型、VLA、强化学习、3DGS这些比较前沿的方向。如果你做的是这块，是 有机会的，很多tire 1的公司或者主机厂 ...

端到端自动驾驶技术发展 - 端到端自动驾驶分为一段式端到端和二段式端到端两大技术方向，自UniAD获得CVPR Best Paper后引发国内智驾军备竞赛 [2] - 2024年理想汽车宣布E2E+VLM双系统架构量产，技术通过传感器数据直接输出规划或控制信息，避免模块化方法误差累积 [2] - BEV感知打破模块化壁垒，UniAD统一感知和规划任务，推动端到端技术进入新阶段 [2] - 当前技术需掌握多模态大模型、BEV感知、强化学习、视觉Transformer、扩散模型等跨领域知识 [3] 技术课程核心内容 - 课程涵盖二段式端到端（PLUTO）、一段式端到端（UniAD）、基于世界模型（OccWorld）、基于扩散模型（DiffusionDrive）及VLA方向 [7] - 第一章解析端到端发展历史及模块化到端到端的演变，对比一段式、二段式、VLA范式优缺点 [9] - 第二章重点讲解背景知识，包括VLA涉及的大语言模型、扩散模型、强化学习及BEV感知 [9][12] - 第三章聚焦二段式端到端，分析PLUTO、CarPlanner、Plan-R1等经典与前沿工作 [10] - 第四章深入一段式端到端与VLA，覆盖UniAD、OccWorld、DiffusionDrive及ORION等实战案例 [11] 课程特色与目标 - 采用Just-in-Time Learning理念，帮助学员快速掌握核心技术栈并构建领域框架 [4][5] - 结合实战环节完成理论到实践闭环，包括RLHF微调及VLA算法复现 [6][13] - 学员需具备自动驾驶基础、Transformer/BEV感知等知识，课程目标为达到1年算法工程师水平 [18] - 课程进度安排为3个月，分章节解锁内容并配备VIP群答疑 [18] 行业趋势与就业需求 - 端到端自动驾驶成为智能驾驶代表方向，学术界与工业界加速布局VLA等前沿技术 [2][11] - VLA技术因上限高、难度大成为招聘热点，涉及VLM、BEV、扩散模型等多技术融合 [11] - 扩散模型在多模轨迹预测中应用广泛，DiffusionDrive等作品推动工业界落地尝试 [11][12]

自动驾驶行业发展现状 - 自动驾驶技术自2009年谷歌(Waymo)开启研发热潮以来已发展近二十年，当前处于行业下沉关键期，技术路径从模块化方法演进至端到端/VLA方法 [2] - 行业技术能力持续攀升，但实现真正自动驾驶仍需突破，智能驾驶融入日常出行是长期目标 [2] 技术资源与知识体系 - 社区梳理40+技术路线，覆盖VLA benchmark、综述、学习路线等，缩短行业检索时间 [4] - 汇总60+自动驾驶数据集、40+开源项目及主流仿真平台，包含感知/仿真/规划控制等学习路线 [16] - 技术方向覆盖BEV感知、3D目标检测、多传感器融合、Occupancy Network等28个细分领域 [23][47][49][51][54] - 前沿技术包括扩散模型、世界模型、视觉语言模型(VLM)、端到端自动驾驶等热点方向 [38][40][42][45] 行业生态与人才网络 - 社区成员来自上海交大、清华、CMU等顶尖高校及蔚小理、华为、大疆等头部企业，形成产学研闭环 [16] - 与多家自动驾驶公司建立内推机制，直接对接企业招聘需求 [7] - 提供职业发展咨询，涵盖岗位选择、技术转型等实际问题 [80][83] 技术交流与内容产出 - 每月举办星友线上讨论会，针对共性问题深度探讨 [2] - 累计举办超100场专业直播，邀请清华、上海AI Lab等机构专家分享最新研究成果 [79] - 内容形式包含开源项目分析、数据集解读、量产方案拆解等实战型主题 [30][32][34] 教育培训体系 - 针对小白提供完备入门技术栈和路线图 [9] - 为从业者设计算法进阶课程，涵盖CUDA编程、模型部署等工程化内容 [5][64][66] - 开发"自动驾驶100问"系列，聚焦TensorRT部署、毫米波雷达融合等实战问题 [5]

理想i8与VLA技术发布 - 理想i8在品牌十周年之际上市，重点推出辅助驾驶功能升级，并首发VLA（视觉-语言-动作模型）司机大模型，成为首款搭载该技术的理想车型 [2] - VLA将作为全系i8车型标配功能，计划于8月随车辆交付 [2] - VLA技术突破体现在三方面：多模态语义理解（空间/思维/沟通记忆/行为）、思维链推理能力、接近人类驾驶直觉的决策能力 [3] - 具体功能包括：执行自然语言指令（如"靠边停"）、记忆路段速度偏好、语音搜索目的地（如"找最近星巴克"）、复杂路况风险评估与避障 [6] VLA技术架构与行业影响 - VLA整合端到端与大模型优势，融合视觉空间理解（BEV感知）、语言模型思维推理（含RAG记忆）、多模态输入处理能力 [3] - 技术演进路径：从E2E+VLM到VLA，代表自动驾驶量产新里程碑，引发行业人才转型热潮（传统规控/感知方向从业者转向VLA） [5] - 技术流派分化：一段式（UniAD/OccWorld/DiffusionDrive）与二段式（PLUTO）并行发展，VLA成为大模型时代端到端新方向 [8][23] - 人才市场需求旺盛：VLA算法专家月薪达40-70K（15薪），博士级顶尖人才年薪90-120K（16薪），实习岗位日薪220-400元 [11] 端到端技术发展趋势 - 技术迭代加速：2023年工业级端到端方案已不适应2024年环境，需掌握多模态大模型/BEV感知/强化学习/扩散模型等复合技能 [14] - 学术前沿动态：基于感知的UniAD、基于世界模型的OccWorld、基于扩散模型的DiffusionDrive形成三大技术分支 [23] - VLA成为技术制高点：融合VLM/BEV/扩散模型/强化学习，代表端到端自动驾驶最高难度，小米ORION等开源项目推动工业落地 [25] 技术人才培养体系 - 行业推出《端到端与VLA自动驾驶小班课》，覆盖技术发展史、背景知识（Transformer/BEV/扩散模型/RLHF）、一段式/二段式实现方案 [21][22][24] - 课程设计特点：Just-in-Time快速入门、构建研究框架（论文分类/创新点提取）、RLHF微调实战（ORION案例复现） [16][17][18][26] - 培养目标：3个月达到1年经验算法工程师水平，掌握主流框架复现能力（扩散模型/VLA），适配实习/校招/社招需求 [32]

点击下方 卡片 ，关注" 自动驾驶之心 "公众号 戳我-> 领取 自动驾驶近30个 方向 学习 路线 今天自动驾驶之心为大家分享 北京大学，小鹏汽车 最新的工作！ FastDriveVLA：对抗性视觉token剪枝，50%压缩率下性能保持 97.3%！ 如果您有相关工作需要分享，请在文末联系我们！ 自动驾驶课程学习与 技术交流群加入 ，也欢迎添加小助理微信AIDriver005 >>自动驾驶前沿信息获取 → 自动驾驶之心知识星球 论文链接：https://www.arxiv.org/pdf/2507.23318 不过，VLM/VLA 模型通常将输入图像编码为大量视觉，会带来高昂的计算开销与推理延迟，在车载芯片上实际部署时有着较高的时延压力。为缓解这一问题，现 有研究主要从两个方向进行视觉 token 剪枝： 1. 注意力机制导向方法 依据文本 token 与视觉 token 之间的注意力权重进行筛选。但是因为驾驶任务中的文本指令往往固定且简短，提供的监督信息有限，导致剪枝效果不佳。 2. 相似度导向方法 论文作者 | Jiajun Cao等 编辑 | 自动驾驶之心 写在前面 && 笔者理解 近年来，端到端自动 ...