为何减配?英伟达,正式回应!

文章核心观点 - 英伟达下一代AI计算平台Vera Rubin的规格调整获得官方解释,公司称此前研发阶段公布的规格属于初步架构目标,目前官网和产品数据手册公布的参数才是经过认证、能够在量产系统中持续实现的最终规格 [1] - 公司强调规格调整并不意味着实际应用性能下降,此前已公布的第三方性能测试采用的就是当前量产规格 [1] - 公司核心解释是单个组件规格不能直接决定最终应用性能,Vera Rubin是专门面向Agentic AI设计的平台,系统性能取决于整个数据中心的综合表现 [4] - 公司建议以具体AI模型和真实智能体部署场景下的帕累托性能表现来衡量平台实际能力,而非单纯比较某一项硬件参数 [4] - 此次回应实质是重新明确Vera Rubin的性能评价方式:从研发阶段的单项硬件指标转向量产系统在真实AI工作负载下的综合表现 [6] HBM4显存带宽调整 - 每颗Rubin GPU配备的HBM4显存容量维持288GB不变,但带宽从22TB/s下调至19.2TB/s,降幅约12.7% [2] - Vera Rubin Superchip层面,HBM4带宽由44TB/s调整为38.5TB/s [2] - Vera Rubin NVL72机架层面,HBM4总带宽从1580TB/s调整至1400TB/s [2] - HGX Rubin NVL8配置的HBM4容量从2.3TB调整至2TB,带宽从176TB/s调整至130TB/s,降幅约26.1% [3] NVLink互联带宽调整 - 第六代NVLink互联带宽从3.6TB/s下调至3TB/s,降幅约16.7% [2] - Vera Rubin Superchip层面,NVLink带宽由7.2TB/s调整为6TB/s [2] - Vera Rubin NVL72机架层面,NVLink总带宽从260TB/s调整至216TB/s [2] 网络带宽提升 - 并非所有指标均下调,Vera Rubin NVL72机架的网络带宽从28.8TB/s增加至32.4TB/s,提升约12.5% [3] 系统级设计理念 - 公司反复强调系统级设计,对于大规模AI集群而言,GPU计算能力、显存带宽、GPU之间通信效率以及数据中心网络和软件调度都可能影响最终应用表现 [5] - Agentic AI工作负载与传统AI推理存在差异,一项任务可能需要反复进行推理、调用工具、检索信息以及评估结果,整个过程可能涉及数千次操作 [4] - Vera Rubin的性能提升来自模型、软件、计算、网络和内存之间的深度协同设计 [4] 第三方测试与量产进展 - 过去数月已公开的Vera Rubin第三方智能体AI基准测试采用的就是当前量产规格,与现在正在出货的产品保持一致,此次更新规格不会改变此前已公布的第三方测试结果 [6] - Vera Rubin NVL72目前已全面投产并开始出货 [6] - 与上一代GB300 NVL72相比,Vera Rubin在相关智能体AI工作负载下每瓦性能提升30倍,每美元能够获得的Token数量也提升30倍 [6] - 公司建议客户参考AgentX与SemiAnalysis合作、AgentPerf与Artificial Analysis合作发布的第三方测试结果,以评估不同平台在真实智能体AI场景下的表现 [6] 行业关注点 - 规格参数下调本身仍值得关注,尤其是在HBM4和高速互联对大规模AI计算越来越重要的背景下,最终量产规格与早期架构目标之间的差距以及不同AI工作负载对这些变化的敏感度,仍需结合更多实际测试来判断 [7]

为何减配?英伟达,正式回应! - Reportify