Data Center Networking

搜索文档
Nvidia(NVDA) - 2025 FY - Earnings Call Transcript
2025-06-10 23:00
公司战略和发展方向和行业竞争 - 公司认为网络基础设施对AI数据中心至关重要,其决定了数据中心能处理的工作负载、效率和投资回报率等,设计AI数据中心网络与传统超大规模云网络不同,需考虑分布式计算需求 [8][9][11] - 公司有规模上和规模外两种网络基础设施,规模上网络如NVLink可构建更大计算引擎,规模外网络如InfiniBand或SPECTUMAX用于连接多个计算引擎,以支持不同工作负载 [15][16][17] - 公司针对AI设计了以太网Spectrum X,因AI将普及到各个数据中心,而很多企业熟悉以太网,Spectrum X融合了InfiniBand的优势,可用于AI训练和推理,且能与其他以太网设备互操作 [38][39][46] - 公司的DPU用于运行数据中心操作系统、配置服务器和实现安全访问,可将基础设施域与应用程序域分离,提高安全性 [54][55][57] - 公司的NVLink在构建时注重高带宽、高消息速率、低延迟,采用铜连接以降低功耗,并引入液冷技术提高密度,且不断发展迭代 [60][61][66] - 公司推出NVLink Fusion,允许客户利用其规模上基础设施构建自定义加速器解决方案,与多家合作伙伴合作,推动生态系统发展 [71][73][74] - 公司计划在规模外网络引入共封装硅光子技术,以降低功耗、减少组件数量、提高数据中心弹性和建设速度 [83][84][85] 管理层对经营环境和未来前景的评论 - 管理层认为现在人们意识到基础设施是关键,它决定了数据中心的性能,未来基础设施的重要性将不断增加,会有创新技术融入其中 [100][101] 总结问答环节所有的提问和回答 问题: 网络在AI数据中心的战略重要性是什么 - 网络定义了数据中心,是计算基础设施,决定了数据中心能处理的工作负载、效率和投资回报率等,设计AI数据中心网络与传统超大规模云网络不同,需考虑分布式计算需求 [8][9][11] 问题: 规模上和规模外网络的区别及重要性是什么 - 规模上网络如NVLink可构建更大计算引擎,规模外网络如InfiniBand或SPECTUMAX用于连接多个计算引擎,以支持不同工作负载 [15][16][17] 问题: AI工作负载和应用对网络需求有何影响 - 需将网络与计算协同设计,如将计算算法运行在网络上以提高效率,同时AI框架不断发展,对网络基础设施的规模和复杂性提出更高要求 [22][24][29] 问题: InfiniBand和以太网的区别是什么,如何选择 - InfiniBand是无损网络,适用于分布式计算,是AI的黄金标准,用于构建AI工厂等大规模单一作业;以太网Spectrum X是为AI设计的以太网,融合了InfiniBand的优势,适合熟悉以太网的企业,可用于多租户、多工作负载的AI数据中心 [33][35][46] 问题: Spectrum X能否与标准以太网混合使用 - Spectrum X是以太网,可与其他以太网设备互操作,可作为AI数据中心的规模基础设施,与其他部分的以太网设备连接 [52] 问题: DPU在网络中的重要性是什么 - DPU用于运行数据中心操作系统、配置服务器和实现安全访问,可将基础设施域与应用程序域分离,提高安全性 [54][55][57] 问题: NVLink相对于其他拓扑结构的优势是什么 - NVLink注重高带宽、高消息速率、低延迟,采用铜连接以降低功耗,并引入液冷技术提高密度,且不断发展迭代 [60][61][66] 问题: NVLink Fusion的优势是什么 - 允许客户利用公司的规模上基础设施构建自定义加速器解决方案,与多家合作伙伴合作,推动生态系统发展 [71][73][74] 问题: 如Qualcomm的CPU连接NVLink,是支付许可证费用还是直接使用NV开关 - 需要获取NVLink接口和相关芯片,连接到NVLink开关,并可获取包括液冷等在内的相关元素 [74] 问题: NVLink何时采用光纤,规模外网络是否已采用光纤,硅光子技术在其中的作用是什么 - 规模上网络尽量使用铜连接,规模外网络因距离问题需使用光学连接,目前规模外网络的光网络功耗较大,引入共封装硅光子技术可降低功耗、减少组件数量、提高数据中心弹性和建设速度 [76][78][83] 问题: 能否用铜连接达到576个GPU,何时需要切换到光学连接 - 只要能进行封装,就会继续使用铜连接 [92] 问题: 公司是否会取代Marvell、Broadcom和Coherent等解决方案提供商的设计 - 不会取代,数据中心有多种基础设施和区域需要使用收发器,市场在增长,公司与这些合作伙伴合作,共同推动共封装光学基础设施的发展 [93][94][95]