超节点技术概述 - 超节点通过高效互联架构显著提升大规模模型训练与推理效率，尤其在数千至上万张GPU协同场景下优势突出 [1] - 光学技术成为关键驱动力，其高效、低延迟和高可靠性特性突破传统互联方案瓶颈 [1] - 2025年起国内大模型推理需求激增，超节点通过优化token生成速度与单卡服务模型数量实现价值产出最大化 [2] 架构设计 - 单层架构为最优目标，可实现最低延迟（1微秒级）、最优成本与最高可靠性，但受交换机规模限制部分场景需采用两层架构 [4] - 国产GPU因7纳米制程限制，单卡算力仅为国际主流（如B200）的1/2至1/7，需数百个GPU通过高效互联对标NVL72超节点 [6] 发展路径 - 提高单机柜功耗：传统27千瓦机柜扩容至支持100个国产GPU，需多机柜协同实现数百GPU规模 [8] - 多机柜互联：谷歌案例显示数千GPU通过光互联组成超级系统，光缆传输距离达2000米（铜缆仅7米） [8][10] 光互联技术 - 光缆纤细特性解决铜缆堵塞风道问题，华为CloudMatrix384集群使用3000+光缆和6000+光模块 [12] - 共封装光学（CPO）将光电转换距离从几十厘米缩短至3-5厘米，博通51.2T CPO交换机集成度提升12倍 [14] - CPO节省1/3至2/3功耗，512卡全交换超节点中单位比特功耗从20pJ/bit降至7pJ/bit [16][17] 可靠性优化 - 分布式光交换（dOCS）支持故障节点动态替换，12服务器超节点可配置32卡+备份实现服务器级冗余 [18][19] - 光互联供应链更可控，光纤不依赖先进制程，国内技术差距较小 [19] 应用前景 - 超节点灵活配置4/6/8服务器规模，分散部署解决散热与土建限制 [19] - 国产GPU性能提升与光互联技术成熟将推动训练/推理场景突破，CPO与dOCS持续优化系统可靠性 [21]