Workflow
AI芯片功耗狂飙,冷却让人头疼

公众号记得加星标⭐️,第一时间看推送不会错过。 来源:内容 编译自 tomshardware 。 近年来,AI GPU 的功耗稳步上升,预计随着 AI 处理器集成更多计算能力和 HBM 芯片,功耗还将 继 续 上 升 。 我 们 一 些 业 内 人 士 表 示 , Nvidia 计 划 将 其 下 一 代 GPU 的 热 设 计 功 耗 (TDP) 设 定 在 6,000 瓦至 9,000 瓦之间,但韩国领先的研究机构 KAIST 的专家认为,未来 10 年,AI GPU 的热 设计功耗 (TDP) 将一路飙升至 15,360 瓦。因此,它们需要相当极端的冷却方法,包括浸入式冷却甚 至嵌入式冷却。 直到最近,高性能风冷系统(包括铜散热器和高压风扇)足以冷却 Nvidia 的 H100 AI 处理器。然 而,随着 Nvidia 的 Blackwell 将其散热功率提升至 1200W,Blackwell Ultra 又将其 TDP 提升至 1400W,液冷解决方案几乎成为必需。Rubin 的散热性能将进一步提升,TDP 将提升至 1800W;而 Rubin Ultra 的 GPU 芯片和 HBM 模块数量将翻倍, ...