公司核心战略与自研进展 - 长城汽车智能驾驶自研方案计划于今年实现上车，预计将采用VLA方案，此举旨在让公司智能驾驶自研实力重回第一阵营 [2] - 公司智能化团队规模达数千人，主要负责人为智能化副总裁姜海鹏，团队主要分布在上海和保定两地 [2] - 公司布局智能驾驶自研已超过十年，目前正谋求自主研发与供应商合作并举的路线 [2] 技术路线与组织架构 - 当前智能驾驶路线以与方案商合作为主：芯片主要采用英伟达、高通、地平线；智驾算法由元戎启行（负责城市NOA）和Momenta（提供高速NOA）提供 [2] - 公司智驾和智舱为同一个团队，这为未来实现舱驾融合奠定了组织优势，目标是能在2026年舱驾一体趋势中后发先至 [3] - 公司已为智驾自研搭建硬件基础，通过建设九州超算中心提供算力支持，总算力规模达5EFLOPS，硬件扩容至超万卡级别 [3] 海外研发与人才布局 - 长城汽车美国自动驾驶研发中心的筹建计划仍在进行中，公司正仿效同行在美国硅谷筹划建立研发中心以探索AI前沿技术 [1][4] - 在英伟达GTC大会期间，公司高管集中会见了候选人，旨在为硅谷研发中心寻找顶级技术人才 [4] - 建立美国技术中心的目的是保持在技术高地的存在，确保与硅谷前沿AI人才及企业的密切交流，以保障技术路线精准和产品领先 [4]

大模型在自动驾驶领域的应用 - 大模型在自动驾驶功能上的落地逐渐清晰化，理想、华为等公司开始推行自己的VLA、VLM方案 [1] - 下一代大模型需要关注轻量化与硬件适配、知识蒸馏与量化加速、高效微调大模型等方向 [1] - CoT方案是后期完成空间感知的重点，VLA+强化学习等高级推理范式受到行业重点关注 [1] 大模型优化课程介绍 - 课程系统性地探讨大模型的前沿优化方法，重点研究参数高效计算、知识动态扩展和复杂推理三大方向的关键技术 [2] - 参数压缩方面研究剪枝稀疏化和量化加速等轻量化方法 [2] - 知识扩展方面探索检索增强生成（RAG）和参数高效微调（PEFT）等动态知识注入技术 [2] - 推理优化方面研究链式思维（CoT）和强化学习优化（GRPO）等高级推理范式 [2] 课程解决的问题 - 帮助学员系统掌握大模型相关理论知识，形成清晰的体系 [3] - 解决动手能力差、无法复现论文的问题，协助开发设计新模型 [3] - 解决论文写作和投稿难题，积累写作方法论并获得投稿建议 [3] 课程收获 - 掌握大模型优化的核心算法，包括结构化剪枝、低比特量化、动态检索等关键技术 [9] - 获得Coding能力增强，在baseline代码和可用数据集上高效展开研究 [9] - 撰写出论文初稿，可能产出一篇不错的论文 [9] 课程大纲 - 大模型剪枝与稀疏化算法优化：详解让大模型体积更小、运行更快的方法 [19] - 大模型量化加速全景：从数据位宽到编译来优化大模型的加速 [19] - 参数高效微调（PEFT）革命：介绍用少量计算资源让大模型适应垂类任务的高效微调算法 [19] - 基于RAG的大模型知识动态扩展范式：解决大模型的事实性错误和知识更新滞后问题 [19] - Chain-of-Thought推理进阶：针对让大模型分步骤思考解决复杂问题的算法进行深入剖析 [19] 课程资源 - 提供Baseline代码，包括LLM-Pruner、GPTQ、LLaVA等开源项目 [16] - 必读基础论文包括GPTQ、Sheared LLaMA、TVM等 [18] - 数据集来自于公开数据集，根据具体任务选用 [13] 招生要求 - 具备深度学习/机器学习基础，熟悉Python和PyTorch [6] - 最好具备4张4090显卡或以上设备性能的机器，最低不少于2张4090显卡 [15] - 掌握基本的编程语言，熟练使用PyTorch等深度学习框架 [15]