Workflow
Scale Out
icon
搜索文档
回归技术--Scale Up割裂的生态
傅里叶的猫· 2025-10-19 00:01
文章核心观点 - 文章核心观点是分析AI服务器Scale Up高速互联技术的市场格局、主流技术方案及其发展前景,重点探讨了英伟达NVLink、博通SUE和由AMD、Marvell等公司推动的UALink三大技术路线的竞争态势 [1][3][5] - 随着AI算力需求增长,Scale Up网络市场预计将从2024年的40亿美元以34%的年复合增长率增长至2029年的170亿美元,为非英伟达阵营的互联技术提供了巨大市场机会 [5][7] - Scale Up技术生态目前呈现割裂状态,未来竞争结果将取决于xPU市场份额划分、新网络标准演进以及客户的数据中心架构选择 [10][22] Scale Up和Scale Out概念 - Scale Up网络指同一台服务器或同一机架内GPU之间的高速通信网络,通过加速器互联使其协同工作,相当于一台大型超级计算机 [3] - 在Hopper时代以8卡机为主,服务器内部GPU可通信,服务器间需接交换机;Blackwell时代的GB200 NVL72则将一个机架内的72个GPU视为单一虚拟GPU,消除了服务器间通信瓶颈 [5] 主流Scale Up方案对比 - 英伟达采用专有NVLink协议实现GPU集群互联,在GB200/300的NVL72配置中,NVLink扩展至Blackwell GPU与Grace CPU的连接,预计未来将继续仅通过NVLink实现Scale Up [11] - AMD借助专有Infinity Fabric技术实现MI300 GPU的Scale Up,单个服务器最多连接8个GPU;即将推出的MI400将采用72-GPU机架配置,通过基于以太网的UALink实现Scale Up [12] - 谷歌通过芯片间互联技术实现机架内TPU Scale Up,借助光电路交换技术实现跨机架扩展;基于TPUv7架构的完整扩展pod可支持多达9216个TPU [13] - 亚马逊采用专有NeuronLink互联技术实现Scale Up通信,可在四个Trainium2实例间连接多达64个芯片;目前正与阿斯特拉实验室合作研发专用Scale Up交换机,预计2026年推出 [14] - 博通的SUE采用AI优化以太网,具备超低延迟和高性能,使用博通Tomahawk交换机,支持横向与纵向扩展的第六代产品已于6月出货 [17] - UALink是专为AI设计的内存语义互联技术,目前处于发展初期,由AMD、ALAB、MRVL及多家超大规模企业组成的联盟支持,基于AMD的Infinity Fabric,物理层依托以太网 [17] 国内超节点发展现状 - 目前国内已公布超节点方案的只有华为和阿里,华为有UB Mesh,阿里有ALink;其他国产GPU厂由于系统复杂性高且需要自有互联协议,面临较大挑战 [9] - 阿里欢迎其他厂家加入ALink生态,但其他厂家可能因竞争关系不愿兼容,同时受国际形势影响可能也不会选择国外互联总线,导致国内生态发展存在不确定性 [9] 互联介质选择:光与铜 - 当前Scale Up网络以铜缆为主,因其在短距离内具有纳秒级低延迟和成本优势,能避免光器件的额外成本和功耗 [20] - 单机架加速器部署规模上限约为72个,受架构、功耗与散热、物理密度和可靠性四大因素限制;若规模超过100个或需转向光连接 [20] - 预计铜缆将在Scale Up网络中长期使用,但当Scale Up突破单机架实现数百个GPU集群时,可能于2028年及以后引入光器件 [20][21] 市场竞争格局与关键因素 - Marvell在UALink生态中的主要贡献是准备做UALink switch,这是整个生态中最关键的一环 [22] - 当前市场处于早期阶段,架构、技术标准和客户偏好仍在变化中,最终胜出的Scale Up技术尚未确定,但市场规模足以支撑多家供应商共存 [22] - 长期来看,非英伟达阵营预计将从专有Scale Up网络逐步转向UAL、SUE等开源解决方案,这些技术有望在2027-2028年随着技术成熟及新ASIC产品放量而得到更广泛应用 [22]
More and more of our innovations are being adopted, at higher and higher value, says Corning CEO
Youtube· 2025-09-13 07:41
公司股价表现 - 过去12个月股价上涨84% [2] 数据中心业务增长 - 数据中心业务是当前增长最快的业务板块 [4] - 业务增长主要基于网络横向扩展(scale out)需求 [4] - AI集群互联推动光纤需求增长 [5] - 长距离传输时光纤比铜缆更具技术经济性 [6] - Meta路易斯安那数据中心园区需要800万英里光纤 [7] - 该光纤长度可绕地球赤道320圈或连接纽约州所有独栋住宅 [8] 技术发展机遇 - 服务器背板采用玻璃可提升能效和晶圆利用效率 [10] - 纵向扩展(scale up)市场规模是横向扩展的2-3倍 [11] - 公司正全力投入相关技术创新 [10] - 数据中心互联推动长途网络重建需求 [12] 消费电子业务 - 移动消费电子产品采用更多康宁创新技术且价值量提升 [13] - 获得苹果2.5亿美元投资专门用于移动消费电子研发设施 [17] 新能源业务布局 - 在密歇根州建设美国最大原生多晶硅晶圆工厂 [14] - 太阳能业务季度运行率约2亿美元 [14] - 预计到明年末运行率将提升至三倍 [14] 地缘政治影响 - 美国市场90%收入来自本土生产产品 [16] - 仅1%在美销售产品在中国制造 [16] - 关税政策对公司影响极小 [15] 资本配置策略 - 苹果投资释放股东资本可用于其他创新领域投资 [18] - 释放资金将重点投入网络纵向扩展等创新项目 [18]
超节点,凭何成为AI算力“新宠”
21世纪经济报道· 2025-07-31 08:38
超节点技术兴起背景 - AI大模型发展推动算力需求进入万卡协同时代 万亿参数模型和多模态训练对算力提出更高要求[1] - 传统算力架构难以满足高效低耗大规模协同的AI训练需求 行业亟需技术革新[1] - 超节点作为Scale Up纵向扩展解决方案 由英伟达率先提出 具有高性能低成本高能效优势[1] 超节点技术优势 - 通过内部高速总线互连支撑并行计算任务 加速GPU间参数交换和数据同步 缩短大模型训练周期[1] - 深度整合GPU资源构建低延迟高带宽的统一算力实体[2] - 采用液冷等先进散热技术将数十甚至上百计算单元高度集成 极大提升算力密度和能源效率 PUE值优化[2] - 相较于Scale Out横向扩展方案 在性能成本组网运维等方面存在优势[2] 连接方案发展 - 铜连接成为超节点主要承载载体 具有高成本效益和运营可靠性[2] - 铜缆已实现224G以太网SerDes高速通信技术升级 短距离传输性价比突出[3] - 英伟达GB200 NVL72服务器采用大量铜连接 机柜内部使用电缆长度累计接近2英里(约3.2公里) 包含5000多条独立电缆[3] 技术方案分类 - 业界主流超节点方案分为私有协议和开放组织方案[3] - 私有协议包括英伟达Trainium方案和华为方案等[3] - 开放标准以以太网技术为基础 ODCC主导的ETH-X项目分为Scale Up和Scale Out两个组网部分[4] 中国企业布局 - 华为发布昇腾384超节点 实现业界最大规模384卡高速总线互联 具备超大带宽超低时延超强性能优势[5] - 曦智科技联合壁仞科技中兴通讯推出全球首个分布式光互连光交换GPU超节点解决方案光跃LightSphereX[5] - 燧原科技云燧ESL超节点系统单节点最高64卡全带宽互联 采用液冷方案[5] - 沐曦发布旗舰GPU曦云C600 支持MetaXLink超节点扩展技术[5] - 摩尔线程建立全栈AI智算产品线 包含AI超节点服务器及夸娥智算集群[6] - 字节阿里腾讯新一代服务器均采用超节点设计[4] 市场前景 - 超节点被国内外众多服务器选为下一代方案[2] - 中国科技企业在超节点领域全面开花 标志算力集群正式迈入万卡协同时代[1] - 超节点技术为全球人工智能发展铺设兼具性能与包容性的新赛道[6]