文章核心观点 - 人工智能推理市场快速扩张正在造成新的内存瓶颈，仅提升单个产品性能不够，必须优化整个内存层次结构 [1] - 随着工作负载复杂性、上下文长度和推理请求量成倍增长，AI推理市场正经历爆炸式增长 [1] - 过去内存瓶颈主要存在于处理器和内存之间，如今不同内存层级之间的性能差距以及数据迁移本身已成为新瓶颈 [1] - SK海力士计划通过细分和多样化内存架构来解决瓶颈问题 [1] 内存瓶颈与KV缓存需求 - 随着对键值缓存容量的需求不断增长，从HBM到SSD的多层数据迁移变得越来越频繁 [1] - AI通过KV缓存重用历史数据，KV缓存容量需求持续增长 [1] 3D堆叠式DRAM技术 - 为缩小现有SRAM和HBM之间的性能差距，公司正在研发3D堆叠式DRAM技术 [1] - 该技术将DRAM直接堆叠在GPU和NPU等逻辑半导体之上 [1] - 这种结构旨在大幅缩短处理器与数据之间的物理距离，从而在提高性能的同时降低能耗 [1] 高带宽闪存方案 - 公司提出高带宽闪存方案以解决容量短缺问题 [2] - HBF是一种新一代存储技术，将HBM堆叠技术应用于NAND闪存，定位介于HBM和DRAM之间 [2] - 其目标是在实现约10倍容量的同时，提供约一半的同代HBM带宽 [2] - 鉴于AI推理的读取密集型特性，基于NAND的HBF是提高系统效率的最佳选择 [2] 定制化HBM与内存生态系统 - HBM是SK海力士的旗舰产品，未来将发展成为针对每位客户AI系统进行优化的定制化HBM [2] - 该计划旨在将内存控制器和客户定制的逻辑芯片直接集成到基础芯片上，从而提供超越简单存储的优化架构 [2] - 基于HBM1至HBM4E的技术实力，公司计划将CXL与下一代存储技术相结合，进一步拓展其内存生态系统 [2] 展会展示与战略布局 - SK海力士在本次展会上搭建了迄今为止最大的展位，并发布了一系列最新的AI内存解决方案 [2] - 展示内容包括印有NVIDIA首席执行官黄仁勋签名的HBM晶圆、第六代10纳米级DRAM以及支持液冷的企业级固态硬盘 [2] - 公司已制定战略，通过推进HBF的先发制人式标准化并与全球合作伙伴开展合作，推动AI时代的持续增长 [2]