Workflow
BlueField
icon
搜索文档
NVIDIA (NasdaqGS:NVDA) FY Conference Transcript
2026-05-28 23:15
纪要涉及的行业或公司 * 公司:英伟达 [1] * 行业:科技、媒体和电信,特别是人工智能、高性能计算、数据中心网络 [1] 核心观点和论据 **1. 网络业务强劲增长,由AI工厂整体设计驱动** * 英伟达网络业务收入达149亿美元,同比增长199% [4] * 增长源于公司将数据中心视为一个单一计算单元(AI工厂)进行整体设计,这需要大量的网络基础设施来支撑 [5][6] * 增长覆盖了所有网络基础设施领域:用于纵向扩展的NVLink、用于横向扩展的InfiniBand和Spectrum-X以太网、用于存储和接入的BlueField DPU [6][7] **2. 收购Mellanox是战略转型的关键,旨在成为计算公司** * 收购源于英伟达创始人黄仁勋的愿景,即公司需要从设备或ASIC公司转变为计算公司 [12] * Mellanox专注于为分布式计算负载构建网络基础设施,其技术与英伟达在高性能计算和AI领域的需求高度契合 [14] * 整合过程顺利,两家公司文化相似,团队协作如同一体 [13][15] **3. 产品设计采用垂直整合、水平销售模式,保持开放性** * 为构建作为单一计算单元的AI工厂,英伟达对软件、硬件、计算ASIC、网络ASIC和存储等元素进行极致的协同设计,以确保系统平衡 [21][22] * 设计是垂直整合的,但销售是水平开放的。客户可以单独采用GPU、CPU、网络或NVLink等组件,并与自己的设计混合搭配 [24] * NVLink Fusion的推出证明了其开放性,它允许客户将NVLink作为独立元素使用,即使他们拥有自己的CPU或GPU [25][26] * 公司已宣布与合作伙伴和客户共同构建NVLink Fusion生态系统 [27] **4. Spectrum-X以太网是专为AI设计的零抖动网络基础设施** * 开发Spectrum-X是为了满足已投资以太网的客户需求,为其提供适用于AI负载的横向扩展选项 [33] * 传统以太网并非为分布式计算负载设计,不解决抖动问题,而抖动是AI训练和推理的最大问题之一 [35][40] * Spectrum-X的创新在于:交换机无条件地跨整个基础设施分发流量(包喷洒),这必然导致数据包乱序;通过智能网卡将乱序数据按正确顺序放入GPU内存 [44][48] * 该方案需要交换机(分发)和智能网卡(排序)协同工作,是一个基础设施解决方案,而非单一设备 [48] **5. Spectrum-X支持多种路由协议,并优化多租户环境** * Spectrum-X不仅支持自适应的RDMA协议,还支持MRC等其他路由协议,并可支持大客户自定义的协议 [57][59] * 零抖动的特性使得多租户环境(如AI云)中,一个工作负载不会因网络拥堵而影响另一个工作负载的性能,解决了“吵闹邻居”问题 [70][72] **6. 推理负载催生新的存储基础设施,网络方案在训练和推理中具有通用性** * 训练和推理都是分布式计算负载,都需要零抖动网络 [70] * 随着智能体AI的发展,推理需要更大的KV缓存,并非所有数据都能存储在本地GPU服务器中 [73] * 传统网络存储为数据可靠性设计,成本高昂。英伟达利用BlueField等技术,为推理的KV缓存创建了新的、更高效的存储基础设施 [74][75] **7. 对CPO(共封装光学)的看法:根据距离选择铜缆或光缆,CPO旨在降低光互连功耗** * 连接方式选择取决于距离:短距离用铜缆(零功耗、成本低、可靠),长距离必须用光缆 [76][80] * 当前AI工厂的扩展受限于功耗,而光互连在横向扩展基础设施中的功耗可接近计算容量的10%,这是一个很大的数字 [82][84] * 共封装光学是一项旨在最小化光网络功耗的技术,因此英伟达投资CPO。其应用场景(横向扩展、纵向扩展)取决于实际距离需求 [84][85] 其他重要内容 * 会议背景:第54届年度TMT大会第二天 [1] * 讨论涉及技术细节:包括但不限于RDMA、RoCE、自适应路由、流控等网络协议和技术概念 [53][57] * 发言人风格:以工程师视角,用类比(如汽车与飞机)解释复杂技术选择 [76]
英伟达Computex前瞻:黄仁勋将带来哪些AI算力"核弹"?
华尔街见闻· 2026-05-28 19:41
摩根士丹利预计,在即将开幕的Computex展会上,英伟达首席执行官黄仁勋将全面展示以Rubin GPU和 Vera CPU为核心的新一代AI算力架构,进一步巩固其在AI基础设施领域的统治地位。 据追风交易台,6月2日至5日,台北国际电脑展(COMPUTEX 2026)将以"AI together"为主题举行,市 场焦点正迅速转向英伟达的机架级系统设计及先进封装进展。 摩根士丹利最新研报预计,英伟达将展示旨在实现最低单Token成本的AI工厂解决方案,这一动向直接 推动了供应链产能的重新评估,并为相关硬件制造商带来了显著的增长预期。 Vera CPU开启200亿美元市场机遇 除了GPU,英伟达在CPU领域的扩张同样备受瞩目。摩根士丹利美国半导体分析师 Joe Moore 预计,英 伟达将在展会上披露更多关于Vera CPU的细节,这代表着一个高达200亿美元的市场机遇。 供应链调研显示,台积电正在为Vera CPU分配额外的CoWoS-R产能和3纳米晶圆。基于当前的产能规 划,摩根士丹利认为,独立Vera CPU的合理出货量假设为150万颗。 受强劲的AI GPU和CPU需求驱动,台积电正加速扩张其CoWoS ...