文章核心观点 - 文章核心观点是分析AI服务器Scale Up高速互联技术的市场格局、主流技术方案及其发展前景，重点探讨了英伟达NVLink、博通SUE和由AMD、Marvell等公司推动的UALink三大技术路线的竞争态势 [1][3][5] - 随着AI算力需求增长，Scale Up网络市场预计将从2024年的40亿美元以34%的年复合增长率增长至2029年的170亿美元，为非英伟达阵营的互联技术提供了巨大市场机会 [5][7] - Scale Up技术生态目前呈现割裂状态，未来竞争结果将取决于xPU市场份额划分、新网络标准演进以及客户的数据中心架构选择 [10][22] Scale Up和Scale Out概念 - Scale Up网络指同一台服务器或同一机架内GPU之间的高速通信网络，通过加速器互联使其协同工作，相当于一台大型超级计算机 [3] - 在Hopper时代以8卡机为主，服务器内部GPU可通信，服务器间需接交换机；Blackwell时代的GB200 NVL72则将一个机架内的72个GPU视为单一虚拟GPU，消除了服务器间通信瓶颈 [5] 主流Scale Up方案对比 - 英伟达采用专有NVLink协议实现GPU集群互联，在GB200/300的NVL72配置中，NVLink扩展至Blackwell GPU与Grace CPU的连接，预计未来将继续仅通过NVLink实现Scale Up [11] - AMD借助专有Infinity Fabric技术实现MI300 GPU的Scale Up，单个服务器最多连接8个GPU；即将推出的MI400将采用72-GPU机架配置，通过基于以太网的UALink实现Scale Up [12] - 谷歌通过芯片间互联技术实现机架内TPU Scale Up，借助光电路交换技术实现跨机架扩展；基于TPUv7架构的完整扩展pod可支持多达9216个TPU [13] - 亚马逊采用专有NeuronLink互联技术实现Scale Up通信，可在四个Trainium2实例间连接多达64个芯片；目前正与阿斯特拉实验室合作研发专用Scale Up交换机，预计2026年推出 [14] - 博通的SUE采用AI优化以太网，具备超低延迟和高性能，使用博通Tomahawk交换机，支持横向与纵向扩展的第六代产品已于6月出货 [17] - UALink是专为AI设计的内存语义互联技术，目前处于发展初期，由AMD、ALAB、MRVL及多家超大规模企业组成的联盟支持，基于AMD的Infinity Fabric，物理层依托以太网 [17] 国内超节点发展现状 - 目前国内已公布超节点方案的只有华为和阿里，华为有UB Mesh，阿里有ALink；其他国产GPU厂由于系统复杂性高且需要自有互联协议，面临较大挑战 [9] - 阿里欢迎其他厂家加入ALink生态，但其他厂家可能因竞争关系不愿兼容，同时受国际形势影响可能也不会选择国外互联总线，导致国内生态发展存在不确定性 [9] 互联介质选择：光与铜 - 当前Scale Up网络以铜缆为主，因其在短距离内具有纳秒级低延迟和成本优势，能避免光器件的额外成本和功耗 [20] - 单机架加速器部署规模上限约为72个，受架构、功耗与散热、物理密度和可靠性四大因素限制；若规模超过100个或需转向光连接 [20] - 预计铜缆将在Scale Up网络中长期使用，但当Scale Up突破单机架实现数百个GPU集群时，可能于2028年及以后引入光器件 [20][21] 市场竞争格局与关键因素 - Marvell在UALink生态中的主要贡献是准备做UALink switch，这是整个生态中最关键的一环 [22] - 当前市场处于早期阶段，架构、技术标准和客户偏好仍在变化中，最终胜出的Scale Up技术尚未确定，但市场规模足以支撑多家供应商共存 [22] - 长期来看，非英伟达阵营预计将从专有Scale Up网络逐步转向UAL、SUE等开源解决方案，这些技术有望在2027-2028年随着技术成熟及新ASIC产品放量而得到更广泛应用 [22]

AI算力架构演进与硬件需求 - 传统算力架构难以满足高效、低耗、大规模协同的AI训练需求，超节点成为趋势[1] - 超节点通过提升单节点计算能力，大幅带动Scale up相关硬件需求[1] - 超大规模AI集群建设推动大量节点互联，带动Scale out硬件需求，单一地区电力资源成为瓶颈后，跨数据中心的Scale across方案将逐步采用[1][3] 算力、存力与运力的协同 - AI硬件能力由算力、存力、运力三位一体协同推动[1] - 算力由GPU性能和数量决定，存力当前主流方案是使用贴近GPU的超高带宽HBM缓存[1] - 运力分为Scale up、Scale out和Scale across三个场景，分别对应节点内、节点间与数据中心间的高速通信和数据传输能力[1] - 随GPU计算能力与HBM带宽提升，运力瓶颈将导致AI数据中心节点空置率高，GPU性能浪费，运力发展将成为提升AI数据中心运算能力的重点[2] 运力市场规模与增长 - Scale up交换芯片已成为数据中心主力交换需求并持续增长，预计到2030年全球市场规模接近180亿美元，2022-2030期间年复合增长率约为28%[3] 通信协议发展趋势 - 针对Scale up和Scale out有不同的通信协议，大厂自研私有协议与第三方及中小厂推动公有协议将成为未来发展趋势[1][4] - Scale up层面，英伟达NVlink、AMD Infinity Fabric和华为UB mesh是私有协议代表，博通推动的SUE与行业历史悠久的PCIe是公有协议代表[4] - Scale out层面，英伟达Infiniband为私有协议，博通致力于推动基于公有以太网的RoCE2，海外众多厂商还一起推动超级以太网联盟[4] 运力硬件国产化机遇 - 运力硬件主要涉及交换芯片与部分改善信号质量的数模混合芯片，国产自给率极低，博通、Marvell占据全球商用交换芯片90%以上市场份额[5] - 国产厂商已逐步完成产品量产并走向商业化，如数渡科技自主设计的PCIe 5.0交换芯片已实现量产并正导入客户应用，盛科通信面向大规模数据中心的Arctic系列已在2023年年底送样测试[5] - 运力硬件相关公司正走向从产品化至商业化的快车道，国产替代空间广阔，有望成为下一个高赔率的国产替代新方向[2][5] 投资建议 - PCIe硬件受益标的包括万通发展（数渡科技）、澜起科技等[6] - 以太网硬件受益标的包括盛科通信、中兴通讯、裕太微等[6]

Scale Up技术概述 - Scale Up通过提升单台服务器的计算密度增强算力，如集成更多高性能GPU、更大内存或更快存储，形成"超级节点"[1] - 特点包括高带宽、低时延，适合AI推理的大显存并行计算及训练中的张量并行(TP)和专家并行(EP)任务[1] - 支持在网计算，如在Switch节点加速All Reduce操作，提升GPU协作效率[1] - 依赖高端硬件导致成本较高，常与Scale Out结合使用以兼顾性能与扩展性[1] 英伟达NVLink方案 - 采用自研NVLink高速互连技术，通过铜缆实现机柜内GPU高带宽低延迟连接[3] - GB200 NVL72架构集成18个计算托盘和9个NVLink Switch托盘，每个计算托盘含4颗B200 GPU(共72颗)[3][8] - 每个NVSwitch5芯片带宽28.8Tb/s，整机柜含18颗NVSwitch5芯片，共72个端口对应72颗GPU[8] - B200 NVLink带宽1.8TB/s，含18个端口，每个端口带宽100GB/s(2x224G PAM4 Serdes)[8] - 未来Rubin架构将升级至NVLink 6.0/7.0，带宽密度提升，延迟降低[5] NVLink Fusion生态开放 - 推出NVLink Fusion技术，向第三方CPU/加速器开放生态，允许通过NVLink C2C或NVLink 5 Chiplet集成[11][12] - 采用"二选一"模式：仅支持半定制CPU或加速器，节点必须包含英伟达芯片[12] - 合作伙伴包括Alchip、AsteraLabs等芯片厂商，富士通/高通研发兼容CPU，Cadence/Synopsys提供IP支持[13] AMD UALink方案 - UALink是由AMD等公司推出的开放互连标准，支持每通道200GT/s，最多连接1024个加速器，延迟<1微秒[16] - MI400采用UALoE方案，通过以太网物理层传输UALink协议，兼容现有以太网生态[17] - Helio UALoE 72架构含18个计算托盘(各4颗MI400 GPU)和6个交换托盘(各2颗Tomahawk6 102.4T交换机)[18] 其他厂商方案 - **AWS NeuronLink**：基于PCIe Gen5协议，Trn2-Ultra64机柜间用AEC、机柜内用DAC互连，Teton PDS Ultra含40个Scorpio X交换机[21][22] - **Meta SUE**：采用博通Tomahawk5/Jericho3交换芯片，Minerva架构含16个MTIA计算托盘和6个交换托盘[24] - **Google ICI**：TPU v4 pod采用3D Torus拓扑(4×4×4)，机柜内DAC连接，机柜间通过OCS光交换组成4096 TPU集群[26] - **华为UB**：Cloud Matrix 384系统含384颗昇腾910C芯片，通过统一总线(UB)光互连，使用6912个400G光模块[28][29] 技术演进趋势 - NVLink带宽从4.0的450GB/s提升至7.0的1800GB/s，NVSwitch聚合带宽从1600GB/s增至14400GB/s[6] - 互连技术从封闭走向有限开放(如NVLink Fusion)，同时出现开放标准(UALink)与私有协议(ICI/NeuronLink)并存[11][16][26] - 光互连在跨机架场景应用增多(华为UB用5376个400G光模块)，铜缆仍主导机柜内连接[29][3]