三维数字内存计算(3DMIC)
搜索文档
别再关心芯片了,AI底层逻辑变了
半导体行业观察· 2026-04-03 09:55
文章核心观点 - 人工智能推理的性能瓶颈已从单个芯片转向整个系统架构,解决低延迟、高效率和可扩展性的系统性问题成为关键 [1][2][6] - 行业内的收购与投资(如d-Matrix收购GigaIO、英伟达投资Marvell)均旨在整合技术,构建更强大的全栈式AI基础设施生态系统 [1][2][3][4] 行业趋势:从芯片到系统的范式转变 - 为AI推理选择处理器时,整个系统的架构比单个芯片的选择更重要 [1] - AI推理的规模远超任何单一芯片,已成为一个需要分解工作负载、跨多种处理器(CPU、GPU、推理加速器)运行的系统性问题 [2] - 突破AI推理极限需要一种超越任何单个芯片能力的全系统方法,关键在于实现数据在芯片、节点、机架乃至整个数据中心之间的实时高效传输 [2][6] d-Matrix的战略与收购 - d-Matrix以数字内存计算技术起家,其最新产品Corsair采用3DMIC技术,专为LLM AI推理设计,可提供150 TB/s的内存带宽 [1] - 公司完成首笔收购,收购GigaIO的数据中心业务,以加速交付适应新形势(低延迟、高效率、大规模)的基础设施 [2] - d-Matrix自2022年成立以来累计融资4.5亿美元,其中去年11月C轮融资筹集了2.75亿美元 [2] 1. **收购目标GigaIO的技术**:GigaIO开发了名为FabreX的可组合基础设施,使用PCI和CXL标准连接GPU、FPGA等XPU,其SuperNODE平台可将多达32个XPU连接到单个节点 [2] 2. **收购后的业务布局**:GigaIO计划继续作为独立公司专注于边缘计算,近期发布了可放入飞机行李舱的便携式超级计算机Gryf [2] 英伟达的战略与投资 - 英伟达业务已超越芯片,成为全栈式公司,致力于帮助客户构建AI工厂,其成功的AI需要旗下全部七款芯片(现统称为Vera Rubin平台)的支持 [3] - 公司GPU产品路线图显示,当前Blackwell GPU将于2026年被Rubin取代,随后在2028年推出Feynman GPU [3] - 英伟达宣布向定制芯片制造商Marvell投资20亿美元,以提升Marvell与NVLink Fusion的集成度 [3][4] 1. **投资目标Marvell的业务**:Marvell是一家市值80亿美元的定制芯片制造商,开发AI加速器、交换机、存储控制器等各类ASIC,曾与AWS合作开发Trainium XPU,并与微软Azure、谷歌云、甲骨文云有合作 [3] 2. **NVLink Fusion合作细节**:Marvell将提供定制的XPU和兼容NVLink Fusion的横向扩展网络组件,英伟达则提供Vera CPU、ConnectX网卡、BlueField DPU、NVLink互连技术、Spectrum-X交换机及GPU [4][5] 3. **Marvell的技术整合**:Marvell在去年12月以32.5亿美元收购了Celestial AI,后者开发的光子结构技术可提供高达16 Tb/s的带宽,该技术原计划整合到对UALink的支持中,现正与英伟达NVLink Fusion合作 [5] 关键技术竞争 - 行业正在探索突破内存壁垒的互连工具,无论是UALink、NVLink Fusion还是Ultra Ethernet,其竞争凸显了系统级解决方案的重要性 [5][6]