文章核心观点 - 高带宽闪存(HBF)作为一种新兴内存技术,旨在与高带宽内存(HBM)互补,通过构建分层内存架构来解决人工智能工作负载对内存系统的巨大压力 [3][4] - HBF利用多层3D NAND芯片堆叠技术,提供远超HBM的存储容量,但速度较慢且写入次数有限,这要求软件设计优先考虑读取操作 [1][4][5] - 行业预计HBF将在未来24个月内集成到主流AI产品中,其市场普及将在HBM6时代加速,并有望在2038年市场规模超过HBM [6][7] HBF技术原理与特点 - HBF采用将多个3D NAND芯片垂直堆叠的技术,类似于HBM堆叠DRAM的方式,并通过硅通孔(TSV)进行连接 [6] - 单个HBF单元的容量可达512GB,带宽高达1.638TBps,远超标准SSD NVMe PCIe 4.0的速度 [6] - HBF的容量约为HBM的10倍,但速度比DRAM慢,且写入次数有限,每个模块大约为10万次 [4][5] HBF与HBM的互补关系 - HBM被用作GPU的快速缓存,用于高效读取和处理AI推理所需的键值(KV)缓存数据,但价格昂贵且容量有限 [3][4] - HBF则像一个内容丰富的“图书馆”,允许GPU访问更广泛的数据集,与HBM(“书架”)形成分层内存架构,HBF集成在AI加速器附近 [4] - 未来的迭代(如HBM7)可能作为“内存工厂”运行,数据可直接从HBF处理,无需通过传统存储网络 [6] 行业进展与厂商动态 - 三星电子和闪迪计划在未来24个月内将HBF技术集成到英伟达、AMD和谷歌的AI产品中 [6] - SK海力士将于本月晚些时候发布HBF原型产品,同时各公司正通过联盟开展标准化工作 [6] - 铠侠已研发出一款采用PCIe Gen 6 x8接口、传输速率为64Gbps的5TB HBF模块原型 [7] 市场前景预测 - HBF的普及预计将在HBM6时代加速,HBM6的特点是多个HBM堆栈在网络中互连,以提高带宽和容量 [4][7] - 预测到2038年,HBF的市场规模可能会超过HBM [7]
HBF,再曝新进展