Workflow
HBM之争,升级

公众号记得加星标⭐️,第一时间看推送不会错过。 生成式人工智能革命揭示了一个残酷的现实:如果无法满足"野兽"的需求,那么原始计算能力就毫无 意义。在拥有数千个 GPU 的庞大 AI 数据中心中,真正的瓶颈并非处理速度,而是内存带宽。 尽管工程师们几十年来一直痴迷于 FLOPS,但该行业现在面临着一条新的铁律:如果你不能足够快 HBM,SK海力士领先 High Bandwidth Memory 4 (HBM4) 即将问世,这是一种 3D 堆叠内存技术,有望实现前所未有的 单芯片带宽。这将决定哪些公司将在 AI 领域占据主导地位,或从中消失。这不仅仅是又一次渐进式 升级;它决定了下一个突破性 AI 模型的训练时间是几周还是几个月,决定了推理的盈利能力还是每 次查询都烧钱。 今年早些时候,JEDEC 最终确定了用于高性能 AI 的 HBM4 内存标准。新版本比前代 HBM3 内存 标准提供了更高的单引脚速度和接口宽度,目标是在 2,048 位接口上实现每引脚 8 Gbps 的传输速 度,每个内存堆栈的带宽达到 2 TB/s。实际上,这大约是当前 HBM3 芯片带宽的两倍,这对于 AI 加速器来说将是一个重大的进步。 ...