黄仁勋:SRAM无法取代HBM
一旦模型溢出SRAM,效率优势就会崩溃,此时系统不是停顿,就是需要外部记忆体,而专用设计 的优势就会消失。这也符合黄仁勋的回应,「如果我把一切都放在SRAM上,当然不需要HBM记 忆体。但问题在于我能放入这些SRAM的模型大小,比起实际需求小约100倍」。 如果您希望可以时常见面,欢迎标星收藏哦~ 英伟达(NVIDIA)执行长黄仁勋近期在CES 2026举办主题演讲,而在CES的问答环节中,当被 问到是否以SRAM( Static Random Access Memory静态随机存取记忆体)取代HBM时,他则认 为各自有优势。 黄仁勋表示,虽然SRAM、较便宜的记忆体及开放权重模型可提升效率,但AI工作负载的不断变 化现实,使英伟达仍离不开HBM。对某些工作负载来说,SRAM快得惊人,而SRAM存取可避免 即便是最快外部记忆体也存在的延迟问题。 目前SRAM加速器、GDDR推理,以及开放权重模型( open weight models ),都被提出作为缓 解NVIDIA成本的解决方案,但黄仁勋的回答则显示,这些解方在单一情境下有效,但一旦面对大 规模生产环境的AI系统,就会与现实发生碰撞。 例如,在实际AI生 ...