英伟达公司发展里程碑与战略定位 - 公司于1993年成立，已完成从图形芯片到AI巨头的演进，市值在2025年10月底达到5万亿美元，是3年前的11倍 [2] - 发展关键节点包括：1999年推出GeForce 256，2006年CUDA问世，2012年支持AlexNet，2020年开始发布高端计算GPU，2021年开始发布端侧芯片（ORIN/Thor）[2] - 公司是AI基础设施的第一巨头，但其野心不局限于硬件，2025年在自动驾驶、具身智能、大模型和世界模型等最热AI赛道上产出了多篇重量级工作 [2] Cosmos系列世界基础模型平台 - 该系列从2025年1月开始布局，是面向物理AI的世界基础模型平台，衍生出Cosmos-Transfer1、Cosmos-Reason1、Cosmos-Predict2.5等工作，为下游自动驾驶和具身智能奠定基座 [5] - Cosmos-Predict2.5：新一代物理AI视频世界基础模型，基于流匹配架构统一了文本、图像、视频到世界的生成能力，并引入物理AI专用VLM——Cosmos-Reason1进行文本嵌入与细粒度控制 [17] - Cosmos-Predict2.5构建了包含2亿精选视频片段的大规模训练数据集，并针对机器人、自动驾驶等五大领域进行专项数据整理 [17] - 其控制网络变体Cosmos-Transfer2.5支持多模态控制信号输入，模型规模减小3.5倍的同时实现更高生成质量，支持长达120秒的长视频连贯生成 [17] - 模型支持多摄像头同步视频生成（如自动驾驶7视角），并实现基于相机轨迹的视角重渲染 [17] - 采用基于VLM奖励模型的强化学习对生成质量进行对齐优化，并使用时步蒸馏技术将推理步数大幅减少至4步 [17] - 全面开源2B与14B规模的预训练与后训练模型，在PAI-Bench等物理AI基准测试中取得领先性能 [17] - Cosmos-Transfer1：基于扩散模型的多模态可控世界生成框架，通过自适应空间-时间控制权重机制，根据不同模态输入生成高质量世界仿真视频 [37] - Cosmos-Transfer1构建了面向自动驾驶的高质量数据集RDS-HQ，包含360小时的高清地图、3D检测框与LiDAR同步标注 [37] - 通过基于NVIDIA GB200 NVL72系统的并行推理策略，在64块GPU上实现5秒720p视频的实时生成 [37] - Cosmos-Reason1：旨在赋予多模态大语言模型“物理常识”与“具身推理”能力，通过定义层次化的物理常识本体与二维具身推理本体，采用“监督微调+强化学习”的两阶段训练范式 [32] - Cosmos-Reason1构建了包含约4M视频-文本对的训练数据集，以及包含604个问题的物理常识推理基准和涵盖6个数据集、610个问题的具身推理基准 [32] - 实验表明，经过物理AI SFT后，模型在物理常识和具身推理基准上的性能较基线VLM提升超过10%，进一步的物理AI RL训练能在多数任务上再带来超过5%的性能提升 [33] Nemotron系列AI智能体模型 - Nemotron系列是公司为代理式AI时代打造的“数字大脑”，通过提供开放、高效、精准的模型和工具，让企业能够快速构建专业AI智能体 [5] - Nemotron Nano V2 VL：一个高效的12B视觉语言模型，通过混合Mamba-Transformer架构、多阶段训练策略和高效推理优化，在文档理解、长视频推理等多模态任务中实现了SOTA性能 [12] - 该模型将上下文长度从16K扩展至128K，支持长视频、多页文档等复杂场景理解 [12] - 集成Efficient Video Sampling技术提升视频处理吞吐量，支持FP8与FP4量化，适用于资源受限环境 [12] - 在OCRBench v2、MMMU、ChartQA、Video-MME等45个多模态基准测试中表现优异 [12] - 公开发布包含超过800万样本的Nemotron VLM Dataset V2，以及NVPDFTex等标注工具 [12] - Nemotron Nano 2：面向推理任务的高效混合架构语言模型，结合Mamba-2层与自注意力层，在保持高精度的同时，实现了最高达6倍的推理吞吐量提升，并支持128k长上下文推理 [26] - 采用FP8混合精度训练配方与分阶段课程学习策略，在20T token上完成预训练 [26] - 通过基于Minitron的轻量级剪枝与蒸馏策略，将12B模型压缩至9B，使其能够在单张NVIDIA A10G GPU（22GB显存）上以128k上下文进行推理 [26] - Nemotron-H系列：采用创新的混合Mamba-Transformer架构，用计算和内存需求恒定的Mamba层替代绝大部分自注意力层，在保证高精度的前提下，实现了高达3倍的推理速度提升 [27][28] - 在65k输入、1k输出场景下，吞吐量达同类Transformer的2-3倍 [29] - 提出模型压缩范式MiniPuzzle，将56B模型压缩为47B模型，仅用极少量（63B）token进行蒸馏便恢复精度，并在长上下文推理中实现额外20%的加速 [31] - 为56B大模型成功实施了以FP8精度为主的层wise混合精度预训练方案，在长达20万亿token的训练中稳定 [31] - 基于该骨干网络构建的VLM模型在多项视觉语言基准（如MMMU, MathVista）上达到SOTA水平 [31] 具身智能与机器人系列 - 公司正在深入布局具身智能，主要工作包括GR00T N1和Isaac Lab，一手具身VLA，一手仿真平台 [5] - GR00T N1：一个面向通用人形机器人的开放式视觉-语言-动作基础模型，采用双系统架构，通过构建“数据金字塔”进行大规模预训练 [35] - 双系统VLA架构将视觉语言模型作为慢速推理模块，与基于扩散Transformer的快速动作生成模块端到端联合训练 [35] - 数据金字塔训练策略构建了从海量人类视频、仿真与神经生成数据到真实机器人轨迹的异构数据体系 [35] - 使用单一模型权重支持从单臂机械臂到双手机巧人形机器人等多种机器人形态，在低数据场景下表现出卓越的样本效率 [35] - 公开发布了GROOT-N1-2B模型检查点、训练数据集及仿真基准 [35] - Isaac Lab：一个GPU加速的多模态机器人学习仿真框架，集高保真物理、照片级渲染与模块化环境设计于一体 [6] - 提出了统一且可扩展的仿真范式，将GPU并行物理、实时射线追踪渲染与通用场景描述深度集成 [6] - 设计了全面的多模态传感器仿真套件，涵盖基于物理的传感器、基于渲染的相机以及基于Warp的几何传感器 [6] - 实现了从数据生成到策略部署的端到端学习工作流支持，内置了强化学习、模仿学习等多种学习范式 [6] - 通过模块化的“管理器”架构与底层Tensor API，在保持高性能GPU原生计算的同时，为研究者提供了灵活控制 [6] 自动驾驶系列 - 2025年11月发布的Alpamayo-R1在自驾行业引起轰动，是公司在自驾VLA上的重要尝试 [5] - Alpamayo-R1：一种融合因果推理与轨迹规划的视觉-语言-动作模型，旨在解决端到端自动驾驶在长尾安全关键场景中的性能瓶颈 [13] - 提出了Chain of Causation数据集，通过人机协同标注流程构建具有因果关联的结构化推理轨迹 [13] - 设计了模块化推理VLA架构，以物理AI预训练的Cosmos-Reason为骨干，结合基于流匹配的轨迹解码器，实现99ms延迟的实时轨迹生成 [16] - 提出了多阶段训练策略，包括动作模态注入、基于CoC的监督微调以及基于大推理模型反馈的强化学习后训练 [16] - 在闭环仿真与实车测试中，相比仅预测轨迹的基线模型，Alpamayo-R1在挑战性场景中规划准确率提升最高达12%，脱轨率降低35%，近距离接触率降低25%，推理质量与推理-动作一致性分别提升45%与37% [16] 高效训练与底层技术 - NVFP4：一种新型4位浮点格式的高效训练方法，通过混合精度、随机哈达玛变换、二维权重缩放与随机舍入等关键技术，成功在120亿参数模型上进行了长达10万亿token的稳定训练 [19] - 在120亿参数的混合Mamba-Transformer模型上，使用NVFP4格式完成10万亿token预训练，其验证损失与FP8基线全程紧密吻合（相对误差<1.5%），下游任务准确率可比拟 [19] - 对比实验证明，NVFP4在达到相同训练损失时，所需的训练token数比MXFP4少约36% [19] - 相关工作已在NVIDIA Blackwell GPU上通过Transformer Engine获得全面支持 [19] 数字人与动画生成 - Audio2Face-3D：一个基于深度学习的端到端音频驱动三维面部动画系统，能够从单一语音输入实时生成高保真、口型同步且带情感表达的全脸动画 [21] - 提出了双网络架构设计：基于回归的轻量级网络支持低延迟单帧推理；基于扩散模型的高质量网络以流式方式生成连续30帧动画，支持多身份条件生成 [21] - 构建了基于专业演员多情感语音捕获的4D面部数据集，并采用语音转换、文本转语音对齐与静默数据插入三种增强方法提升数据多样性 [21] - 开发了可重定向的混合形状求解器，可将生成的面部顶点运动转化为标准的ARKit混合形状权重，支持将动画无缝重定向至不同角色模型 [21] - 系统支持在线流式音频输入并实时生成动画，推理延迟低，并提供丰富的后处理参数面板 [21]