Huawei OceanDisk EX 560
搜索文档
HBM价格暴涨之际,华为开源AI推理加速关键技术
观察者网· 2025-11-06 11:10
(文/观察者网 吕栋 编辑/张广凯) 高带宽内存(HBM)的价格又要大涨了。 当地时间11月5日,熟悉韩国存储巨头SK海力士的人士确认,该公司明年向英伟达供应的HBM4单价约 为560美元(约合人民币3991元),比目前供应的HBM3E(约合370美元)价格高出50%以上。 高端的HBM这么贵,并且中国还遭受出口管制,有没有办法减轻对这种产品的依赖? 华为刚开源的技术或许能成为其中一个解决之道。11月5日,华为宣布针对AI推理加速的关键技术—— UCM(Unified Cache Manager)推理记忆数据管理正式开源。 图源:华为数据存储 配合UCM技术,华为今年8月曾经推出多款高性能AI SSD。比如,Huawei OceanDisk EX 560的随机写 性能最高可达1500K IOPS,适用于AI一体机训练场景;Huawei OceanDisk LC 560最大单盘物理容量 245TB,读带宽可达14.7GB/s,适用于集群训练场景等。 这种技术的关键之处在于,可以根据记忆热度,在不同存储介质中分级缓存数据。比如在HBM中存 储"实时记忆数据",在DRAM中存储"短期记忆数据",在SSD中存储"长期 ...