Scale Up(垂直扩展)

搜索文档
什么是Scale Up和Scale Out?
半导体行业观察· 2025-05-23 09:21
如果您希望可以时常见面,欢迎标星收藏哦~ 来源:内容来自半导体行业观察综合 。 在本文中,我们来谈一下GPU集群的横向和综合拓展。 让我们从"AI Pod"的概念开始。这个术语对不同的人可能意味着不同的东西,但它通常指的是一种预先配置的模块化基础设施解决方案,旨在简化 和加速AI工作负载的部署。 这些"pod"将计算、存储、网络和软件组件集成为一个紧密相连的单元,从而促进高效的 AI 运行。这就是我们遇到"纵向扩展"和"横向扩展"等术语 的地方。以下是可视化示例: 每个 XPU 刀片通常包含 2 到 8 个 XPU 设备。每个设备可以形成为单片芯片(即由单个半导体切片制成),也可以形成由一组称为"芯片集"的芯 片组成的多芯片系统。 我们这里讨论的计算处理能力令人难以置信,XPU 设备本身也同样如此。例如,NVIDIA 的 B200 GPU 拥有超过 2000 亿个晶体管(当然,我可 没亲自数过)。 CPU(中央处理器) GPU(图形处理单元 NPU(神经处理单元) TPU(张量处理单元) DPU(数据处理单元) FPGA(现场可编程门阵列) ASIC(专用集成电路) END 半导体精品公众号推荐 扩展是有限制 ...