文章核心观点 - 公司宣布推进其采用共封装光学(CPO)技术的定制XPU架构,可提升AI服务器性能,满足云超大规模运营商对AI应用不断增长的需求 [1][7][8] 新技术介绍 - 公司在其最近宣布的定制高带宽内存(HBM)计算架构基础上,将CPO无缝集成到下一代定制XPU中,使AI服务器中XPU数量从目前机架内的数十个扩展到跨多个机架的数百个,提高AI服务器性能 [1] - 定制AI加速器架构将XPU计算硅片、HBM和其他小芯片与3D SiPho引擎在同一基板上结合,消除电信号离开XPU封装的需求,使XPU之间连接的数据传输速度更快、距离比电缆长100倍 [2] - CPO技术将光学组件集成在单个封装内,减少信号损失、增强高速信号完整性、降低延迟,提高数据吞吐量和功率效率,促进高性能、大容量AI服务器的发展 [3] 核心组件情况 - 公司的3D SiPho引擎是将CPO集成到XPU的基本构建模块,支持200Gbps电气和光接口,6.4T 3D SiPho引擎集成度高,与100G电气和光接口的同类设备相比,带宽和输入/输出带宽密度翻倍,每比特功耗降低30%,多家客户正在评估该技术 [4] 技术积累情况 - 公司八年来一直为高性能、低功耗COLORZ®数据中心互连光模块提供硅光子技术,该技术已被众多领先超大规模运营商批量生产使用,硅光子设备现场运行时长超100亿小时 [5] 互连技术产品组合 - 公司互连产品组合包括用于定制XPU内高性能通信的SerDes和芯片到芯片技术IP、用于CPU和XPU之间高效短距离连接的PCIe重定时器、突破内存挑战的CXL设备等多种产品 [6] 行业预测 - 预计到2029年,CPO端口出货量将从目前的不到5万个增长到超过1800万个,大部分端口将用于服务器内连接 [8]
Marvell Announces Breakthrough Co-Packaged Optics Architecture for Custom AI Accelerators