文章核心观点 HBM4 的出现带来了定制基础芯片的选择,允许企业根据整体 XPU 方案调整内存,实现差异化,主要面向超大规模数据中心,但会改变行业分工并带来新的供应挑战 定制化HBM的驱动力与目标客户 - HBM4 允许使用定制基础芯片替换标准基础芯片,以便更高效地处理特定工作负载 [3] - 定制化HBM的核心在于差异化,通过cHBM模型实现 [2] - 主要面向超大规模数据中心,原因有三:有足够资金、AI处理工作负载类型有限、JEDEC标准化过程耗时太长 [4] - 企业级解决方案也开始加入竞争,有企业客户尝试构建自己的扩展处理单元(XPU) [5] - Marvell 公司正在推进定制化HBM实施,为每个客户定制XPU,并尝试创建单一兼容版本 [5] 定制化HBM的技术变化与优势 - 基础芯片需升级到更先进的FinFET工艺(可能是4nm或更小),而DRAM芯片不升级 [3] - 内存控制器从主机移至基础芯片,将标准接口“封装”在定制接口中 [6] - 移除PHY后,PHY比标准DRAM PHY小了约70% [9] - 移除PHY使计算芯片的计算能力提高了25% [9] - 降低了整体功耗,提高了整个XPU芯片的效率 [9] - 关键优势在于能够连接更多HBM堆栈,提供更大内存容量 [9] - 定制化还涉及可靠性、可用性和可维护性(RAS)的调整 [9] 行业分工与责任分配 - 标准HBM4:内存制造商从芯片代工厂获得逻辑芯片,组装堆栈,测试成品后发货 [12] - 定制版本:内存制造商仍负责内存芯片,但不再拥有基础芯片设计 [12] - 设计环节最困难,可能由超大规模数据中心或设计公司完成 [10][18] - 制造和晶圆测试在逻辑芯片代工厂进行 [18] - 组装方式因项目而异,由项目协议确定 [18] - 最终测试使用自定义测试程序 [18] - 不同客户有不同的业务合作模式,责任分配因项目而异 [13] - 台积电宣布与华邦电子合作,华邦电子提供存储晶圆,台积电负责组装 [13] 供应影响与替代方案 - 定制HBM需求不会进一步加重产能负担,关键在于内存产品的组合方式 [19] - 内存严重短缺,价格飞涨,内存供应商未来一年半到两年的产能已售罄 [19] - 产品组合走向可能给供应计划带来挑战,预测定制版本生产地点更困难 [19] - 替代方案:将标准DRAM芯片堆叠在主机之上,可集成多达四个DRAM芯片 [15] - 堆叠DRAM采用混合键合技术,键合间距小于10微米 [15] - 替代方案主要为了降低延迟,HBM可显著降低延迟且功耗更低 [16] - Synopsys预计每年只有不到20个项目会以这种方式实施 [16] 项目规模与限制 - 定制化项目需要达到相当大的项目量才能证明开发合理性,限制了项目数量 [10] - 定制HBM堆栈预计在一年内或两年内投入数据中心使用 [17]
为什么要定制HBM?