在端到端自动驾驶领域，这篇文章是一个典型的"两段式网络架构"中的Planner模型，而且它不是基于BEV feature map进行下游控制任务的，而是直接对于感知输出 的结构化的信息（bbox，lanes等等）进行编码，并作为sequence token输入到decoder中，今天就为大家分享一下。二段式端到端非常适合新人练手： 为了帮助大家理解，网络架构图上我们做了详细的模块注释： 我们先整体上看一下PLUTO有哪些关键点： PLUTO主要有三个损失，主任务的损失包含回归损失和分类损失，共同组成模仿学习的损失。而Agent轨迹预测的损失如下图所示： 同时，PLUTO也添加了几个辅助的损失帮助模型收敛： 1）直击痛点，快速入门 本课程基于Just-in-Time Learning理念，通过通俗易懂的语言和案例，帮助学员短时间内掌握核心技术栈。理解关键概念后，拓展特定领域知识将变得更加轻松。 2）构建领域框架，提升研究能力 本文均出自平台最新推出的 『端到端与VLA自动驾驶小班课』 ，我们联合国内TOP主机厂算法专家共同打造！ 技术专家带你深入端到端与VLA算法原理与技术开 发，目前已经正式开课！ 技术栈多？ ...

使用范围 ：自动驾驶&具身智能自研课程，包括后续新课程； 有效期 ：自购买之日起一年内使用； 超级折扣卡推出啦 不少同学一直吐槽自动驾驶之心的课程太贵了hhh，想买但预算有限。我们也收到了大家的反馈，今年我们陆续推出了《 端到端与 VLA自动驾驶小班课 》、《自动驾驶端到端与规划控制（第三期）》、《 自动驾驶4D标注算法就业小班课 》。反响都还不错，尤其 是 端到端与VLA，大家反馈都很好，Jason老师也很给力。未来还计划推出一些VLA、模型部署等方向的课程。 针对同学们反馈的课程价格问题，团队内部也商量了一下，决定给大家更多的优惠，开学季也到了，我们正式推出 价值 299元 的 『超级折扣卡』！ 购买后平台所有课程一律七折优惠！ 折扣卡价格 ：299元； 活动时间 ：9.1-9.14日； 补充说明 ：若购买后的一年内您未在平台购买任何课程，超级折扣卡可以全额退款； 扫码购买折扣卡 微信添加小助理咨询 ...

课程产品与市场反馈 - 公司近期推出《端到端与VLA自动驾驶小班课》《自动驾驶端到端与规划控制（第三期）》《自动驾驶4D标注算法就业小班课》等自研课程 [2] - 端到端与VLA课程市场反响显著 用户反馈积极 [2] - 未来计划推出VLA、模型部署等方向新课程 [2] 超级折扣卡促销策略 - 推出定价299元超级折扣卡 购买后平台所有课程享受七折优惠 [2][4] - 折扣卡适用范围覆盖自动驾驶及具身智能领域全部自研课程 包括未来新课程 [4] - 活动限时开展 时间为9月1日至9月14日 [4] - 折扣卡有效期自购买日起一年 若未使用可全额退款 [4] 用户需求与定价调整 - 用户反馈课程定价较高 存在预算限制问题 [2] - 公司基于用户反馈调整定价策略 通过折扣卡形式提供优惠 [2]

端到端与VLA自动驾驶技术发展 - 端到端自动驾驶技术涉及多模态大模型、BEV感知、强化学习、视觉Transformer、扩散模型等多个领域技术栈 [32] - 技术发展从模块化方法演进至端到端范式 包括一段式、二段式和VLA范式 [36] - VLA（视觉语言动作）成为当前端到端自动驾驶的皇冠技术 上限高且业内招聘需求旺盛 [46] Transformer与大语言模型基础 - Transformer架构核心是注意力机制和多头注意力 通过基础模块堆叠形成Encoder和Decoder [11][13] - Token化采用BPE、Word-Piece等方法 通过合并高频字符实现压缩 [9][13] - 位置编码使用正弦和余弦函数 使模型记住词序且位置偏移量与当前位置呈线性关系 [9][13] 视觉与语言模型对齐技术 - CLIP是视觉与大模型对齐的广为认知的技术 为多模态大模型奠定基础 [18] - 视觉Transformer扩展了Transformer的基本概念 成为多模态模型重要组成部分 [43] - LLAVA等模型进一步推进了视觉语言模型的发展 [43] 课程内容体系设计 - 第一章介绍端到端算法发展历史、范式优缺点及学术界工业界动态 [36] - 第二章重点讲解大语言模型、BEV感知、扩散模型、强化学习等背景知识 [37][43] - 第三章分析二段式端到端 涵盖经典算法PLUTO、CVPR'25的CarPlanner和最新Plan-R1 [38] - 第四章深入一段式端到端子领域：基于感知的UniAD、基于世界模型的Drive-OccWorld、基于扩散模型的DiffusionDrive及基于VLA的ORION [39][41][44][46] - 第五章设置RLHF微调大作业 实现从理论到实践的完整闭环 [48] 技术人才市场需求 - VLA/VLM大模型算法专家岗位薪资达40-70K-15薪 要求3-5年经验硕士学历 [29] - VLA/VLM/LLM算法工程师薪资40-70K-15薪 不限经验但要求深度学习机器学习背景 [29] - VIA模型量化部署工程师薪资40-60K-15薪 要求1-3年经验及模型加速技能 [29] 课程特色与优势 - 采用Just-in-Time Learning理念 通过通俗语言和案例快速掌握核心技术栈 [33] - 帮助学员梳理研究发展脉络 形成自己的研究体系和工作经验 [34] - 配备实战环节包括Diffusion Planner和ORION开源推理评测模块 [44][46] - 学员结课后可达1年左右端到端自动驾驶算法工程师水平 [53] 讲师资质与课程安排 - 讲师Jason为C9本科+QS50 PHD 发表CCF-A论文2篇 现任TOP主机厂算法专家 [24][49] - 课程8月15日开课 预计三个月结课 采用离线视频教学+vip群答疑模式 [52] - 章节解锁时间安排：第一章8月01日、第二章8月15日、第三章8月30日、第四章9月15日、第五章10月30日 [53]

大语言模型技术发展 - 大语言模型近五年发展迅速，Transformer架构是核心技术基础 [3][5][7] - Transformer核心模块包括注意力机制和多头注意力，通过8个head增强编解码能力 [11][12] - 位置编码采用正弦/余弦函数实现顺序表征，公式为PE(pos,2i)=sin(pos/10000^(2i/d_model)) [9][13] - BPE分词算法通过合并高频字符逐步构建词表，流程包括统计频次、迭代合并等步骤 [8][13] 视觉与语言模型对齐技术 - CLIP是视觉与大模型对齐的典型代表，实现跨模态特征匹配 [18] - 多模态技术栈涵盖BEV感知、扩散模型、强化学习等方向 [48] - VLA（Vision-Language-Action）成为自动驾驶前沿方向，整合VLM、BEV和强化学习技术 [50] 端到端自动驾驶课程体系 课程结构 - 第一章概述端到端发展史，对比模块化与端到端范式差异 [40] - 第二章重点讲解大语言模型、BEV感知、扩散模型等关键技术 [41][48] - 第三章分析二段式端到端方案，涵盖PLUTO、CarPlanner等经典算法 [42] - 第四章深入一段式端到端，包括UniAD、DiffusionDrive等前沿工作 [43][47] - 第五章设置RLHF微调实战，强化VLA技术迁移能力 [52] 技术亮点 - 覆盖CVPR'25最新成果CarPlanner和AAAI'25世界模型Drive-OccWorld [42][45] - 实战项目包括Diffusion Planner和ORION开源框架复现 [47][50] - 课程目标使学员达到1年经验算法工程师水平，掌握40-70K岗位核心技术 [31][57] 行业应用与人才需求 - VLA算法专家岗位薪资达40-70K-15薪，需求集中在3-5年经验硕士 [31] - 技术栈要求涵盖多模态大模型、BEV感知、模型量化部署等方向 [34][48] - 主机厂加速布局端到端量产方案，推动世界模型、扩散模型等技术落地 [26][50]

行业技术发展 - VLA（Vision-Language-Action）被视为自动驾驶量产的新里程碑，技术从E2E+VLM演进至VLA，引发行业广泛关注并吸引传统规控、感知等领域人才转型需求[1] - 端到端自动驾驶技术呈现多方向分化，涵盖多模态大模型、BEV感知、强化学习、扩散模型等关键技术栈，但跨领域学习门槛高且知识碎片化[11] - 技术迭代加速导致早期工业级端到端方案已不适应当前环境，VLA成为学术界与工业界共同发力的前沿方向，被称作"端到端自动驾驶的皇冠"[19] 课程体系设计 - 课程分五章递进式教学：从端到端发展史（第一章）、核心技术背景（第二章）到二段式（第三章）与一段式端到端及VLA（第四章），最终以RLHF微调实战收尾（第五章）[17][18][19][21] - 第二章聚焦未来两年高频技术关键词：大语言模型、BEV感知、扩散模型理论、强化学习与RLHF等[17][20] - 第四章深度解析四大一段式端到端子领域：基于感知（UniAD/VAD）、世界模型（Drive-OccWorld/OccLLaMA）、扩散模型（DiffusionDrive/DiffE2E）及VLA（ORION/OpenDriveVLA）[19] 职业发展价值 - VLA相关岗位薪资竞争力显著：VLA算法专家年薪达60-105万（40-70K*15薪），顶尖博士人才年薪144-192万（90-120K*16薪），实习生日薪220-400元[8] - 课程目标使学员达到1年经验算法工程师水平，掌握复现扩散模型/VLA框架能力，覆盖实习/校招/社招全场景需求[28] - 技术转型路径明确：传统算法岗可通过课程横向提升技能或转向VLA大模型算法工程师核心岗位[6][7] 教学特色 - 采用Just-in-Time Learning理念，通过案例教学快速构建技术框架，解决论文碎片化难题[12][13] - 配套三大实战环节：Diffusion Planner（扩散模型）、ORION（VLA）及RLHF微调大作业，实现理论到工业级应用的闭环[19][21] - 课程由TOP主机厂算法专家设计，整合CVPR'25、AAAI'25等最新研究成果及量产经验，8月15日开课分阶段解锁内容[22][26] 技术深度覆盖 - BEV感知模块详解：涵盖3D检测、车道线识别、OCC及轨迹预测规划等自动驾驶核心感知任务[20] - 多模态技术栈：从CLIP/LLAVA视觉语言基础到VLA完整技术链路，结合GRPO等前沿强化学习方法[19][20] - 扩散模型应用：重点解析多模轨迹预测技术，包括Diffusion Planner等工业落地方案[19]

端到端自动驾驶技术发展 - 端到端自动驾驶分为一段式端到端和二段式端到端两大技术方向，自UniAD获得CVPR Best Paper后引发国内智驾军备竞赛 [2] - 2024年理想汽车宣布E2E+VLM双系统架构量产，技术通过传感器数据直接输出规划或控制信息，避免模块化方法误差累积 [2] - BEV感知打破模块化壁垒，UniAD统一感知和规划任务，推动端到端技术进入新阶段 [2] - 当前技术需掌握多模态大模型、BEV感知、强化学习、视觉Transformer、扩散模型等跨领域知识 [3] 技术课程核心内容 - 课程涵盖二段式端到端（PLUTO）、一段式端到端（UniAD）、基于世界模型（OccWorld）、基于扩散模型（DiffusionDrive）及VLA方向 [7] - 第一章解析端到端发展历史及模块化到端到端的演变，对比一段式、二段式、VLA范式优缺点 [9] - 第二章重点讲解背景知识，包括VLA涉及的大语言模型、扩散模型、强化学习及BEV感知 [9][12] - 第三章聚焦二段式端到端，分析PLUTO、CarPlanner、Plan-R1等经典与前沿工作 [10] - 第四章深入一段式端到端与VLA，覆盖UniAD、OccWorld、DiffusionDrive及ORION等实战案例 [11] 课程特色与目标 - 采用Just-in-Time Learning理念，帮助学员快速掌握核心技术栈并构建领域框架 [4][5] - 结合实战环节完成理论到实践闭环，包括RLHF微调及VLA算法复现 [6][13] - 学员需具备自动驾驶基础、Transformer/BEV感知等知识，课程目标为达到1年算法工程师水平 [18] - 课程进度安排为3个月，分章节解锁内容并配备VIP群答疑 [18] 行业趋势与就业需求 - 端到端自动驾驶成为智能驾驶代表方向，学术界与工业界加速布局VLA等前沿技术 [2][11] - VLA技术因上限高、难度大成为招聘热点，涉及VLM、BEV、扩散模型等多技术融合 [11] - 扩散模型在多模轨迹预测中应用广泛，DiffusionDrive等作品推动工业界落地尝试 [11][12]

端到端自动驾驶行业现状 - 端到端自动驾驶已成为国内主流新能源主机厂技术竞争的核心领域 自去年E2E+VLM双系统架构成功以来 行业加速迭代 今年上半年VLA概念进一步推动量产方案升级 [2] - 行业人才需求旺盛 3-5年经验的VLM/VLA岗位年薪达百万 月薪高达80K 校招/社招转岗需求激增 [2] - 技术流派分化明显 包括以PLUTO为代表的二段式端到端 以UniAD为代表的一段式端到端 以及基于世界模型/扩散模型/VLA的新兴流派 [4] 技术流派分类与特点 - **二段式端到端**：通过模型实现自车规划 代表工作包括港科技PLUTO 浙大CarPlanner(CVPR'25) 中科院Plan-R1 相比一段式具有明确规划模块优势 [4][20] - **一段式端到端**： - 基于感知的方法：UniAD持续迭代 地平线VAD和CVPR'24的PARA-Drive推动性能提升 [21] - 基于世界模型的方法：AAAI'25的Drive-OccWorld和复旦OccLLaMA拓展场景生成与闭环仿真应用 [21] - 基于扩散模型的方法：DiffusionDrive/Diffusion Planner/吉大DiffE2E实现多模轨迹预测 适应环境不确定性 [21] - 基于VLA的方法：小米ORION 慕尼黑工大OpenDriveVLA 最新ReCogDrive代表大模型时代技术前沿 [21] 核心技术栈与学习路径 - 必备技术包括大语言模型 BEV感知 扩散模型理论 强化学习与RLHF DEEPSEEK优化技术等 构成未来两年求职高频考点 [6][22] - 学习难点在于多领域知识融合(多模态大模型/BEV/强化学习/视觉Transformer/扩散模型) 论文碎片化 缺乏实战闭环指导 [12][13] - 行业推出《端到端与VLA自动驾驶小班课》 采用Just-in-Time Learning理念 覆盖技术框架构建(第二章) 二段式(第三章) 一段式与VLA(第四章) 及RLHF微调实战(第五章) [14][15][16][21][23] 职业发展前景 - VLA/VLM大模型算法专家岗位3-5年经验硕士薪资达40-70K·15薪 博士应届生可达90-120K·16薪 实习生日薪220-400元 [11] - 职业路径包括算法岗技能深化 或转型自动驾驶大模型工程师 需掌握VLM/VLA多模态 模型量化部署等核心技术 [9][10] - 课程目标使学员达到1年经验算法工程师水平 可复现扩散模型/VLA框架 应用于实习/校招/社招场景 [28] 课程体系设计 - 第一章梳理端到端发展历史 对比模块化/一段式/二段式/VLA范式优缺点 分析学术与工业界动态 [19] - 第二章重点突破背景知识 包括Transformer扩展至视觉Transformer CLIP/LLAVA多模态基础 BEV感知实现3D检测/车道线/OCC等核心功能 [22] - 实战环节配置Diffusion Planner和小米ORION开源项目 结合RLHF微调大作业强化工程能力 [21][23] - 课程周期3个月 8月15日开课 分阶段解锁章节 需自备4090及以上GPU算力 要求具备Transformer/BEV/强化学习基础概念 [28]

端到端自动驾驶行业现状 - 端到端自动驾驶已成为国内主流新能源主机厂抢占的技术高地，E2E+VLM双系统架构去年取得成功后，VLA概念在2024年上半年掀起新一轮量产方案迭代[2] - 行业对端到端技术人才需求旺盛，3-5年经验的VLM/VLA岗位年薪高达百万，月薪达70K[2] - 学术界和工业界聚焦端到端技术，但存在技术流派分化问题，包括UniAD、PLUTO、OccWorld、DiffusionDrive等多种算法方案[2][7] 端到端技术发展特点 - 技术演进快速，2023年的工业级端到端算法方案已不适应2024年环境，需掌握多模态大模型、BEV感知、强化学习等跨领域知识[3] - 技术栈呈现多元化发展，包括基于感知的一段式（UniAD）、基于世界模型的一段式（OccWorld）、基于扩散模型的一段式（DiffusionDrive）以及VLA方向[7][11] - 学习门槛较高，存在论文数量繁多（年新增数百篇）、知识碎片化、缺乏高质量文档等挑战[3] 端到端课程核心内容 - 课程覆盖五大技术模块：端到端算法介绍、背景知识、二段式端到端、一段式端到端与VLA、RLHF微调实战[9][10][11][13] - 重点技术包括：PLUTO二段式架构（CVPR'25 CarPlanner）、UniAD感知方案（CVPR'24 PARA-Drive）、世界模型（AAAI'25 Drive-OccWorld）、扩散模型（DiffE2E）、VLA（小米ORION）[7][10][11] - 实战环节包含Diffusion Planner代码复现和ORION开源模块应用，目标实现工业级算法落地[11][13] 行业技术趋势 - VLA成为端到端自动驾驶的"皇冠技术"，小米ORION、慕尼黑工大OpenDriveVLA等方案显示大模型与自动驾驶的深度结合[11] - 扩散模型在轨迹预测领域取得突破，DiffusionDrive等方案实现多模轨迹输出，适应自动驾驶不确定性环境[7][11] - 世界模型技术应用扩展，Drive-OccWorld等方案同时支持场景生成、端到端控制和闭环仿真[11] 人才能力要求 - 需构建跨领域知识体系，包括视觉Transformer（CLIP/LLaVA）、BEV感知（3D检测/车道线/OCC）、扩散模型理论、VLM强化学习（RLHF/GRPO）[12] - 工程能力要求涵盖PyTorch框架、GPU计算（推荐RTX4090）、数学基础（概率论/线性代数）及算法复现能力[20] - 职业发展目标为1年经验端到端算法工程师水平，具备技术框架设计能力和项目落地经验[20]

端到端自动驾驶技术概述 - 端到端自动驾驶分为一段式端到端和二段式端到端两大技术方向 是当前薪资最高的算法岗位之一 3-5年经验可达百万年薪 [2] - 端到端系统实现从传感器输入到车辆规划/控制信息的直接建模 避免模块化方法间的误差累积 BEV感知打通模块化壁垒 UniAD统一感知和规划任务 [2] - 学术界和工业界聚焦端到端技术 衍生出多种算法流派 UniAD并非最终解 新算法不断涌现 [2] 端到端技术发展现状 - 技术方向包括多模态大模型 BEV感知 强化学习 视觉Transformer 扩散模型等 学习路径复杂 论文数量繁多 知识碎片化 [4] - 高质量文档缺乏 提高入门难度 学习目标驱动导航需结合实战 但缺乏系统指导 难以从理论过渡到实践 [4] - 最新技术流派包括：PLUTO为代表的二段式端到端 UniAD为代表的基于感知的一段式端到端 OccWorld为代表的基于世界模型的一段式端到端 DiffusionDrive为代表的基于扩散模型的一段式端到端 [9] 端到端课程体系 - 课程特点：直击痛点快速入门 构建领域框架提升研究能力 理论结合实践学以致用 [5][6][7] - 课程大纲：端到端算法介绍 背景知识 二段式端到端 一段式端到端与VLA 课程大作业 [11][12][13][15] - 重点章节：一段式端到端与VLA为课程精华 涵盖基于感知/世界模型/扩散模型/VLA的四大子领域 [13] 技术深度解析 - 二段式端到端：分析PLUTO CarPlanner Plan-R1等经典与前沿工作 对比一段式优缺点 [12] - 一段式端到端：UniAD和VAD为奠基作 PARA-Drive为最新进展 世界模型应用广泛 扩散模型实现多模轨迹预测 VLA为当前技术皇冠 [13] - 关键技术：Transformer CLIP LLAVA BEV感知 扩散模型 RLHF GRPO等构成完整技术栈 [14] 课程实施细节 - 开课时间8月15日 三个月完成 采用离线视频教学+VIP群答疑+三次线上答疑模式 [20] - 学员需自备4090及以上GPU 具备自动驾驶基础 熟悉Transformer 强化学习 BEV感知等技术概念 [22] - 预期成果：达到1年经验算法工程师水平 掌握端到端技术框架 可复现主流算法 应用于实际项目 [22]