AI Pod概念与架构 - AI Pod是预配置的模块化基础设施解决方案，集成计算、存储、网络和软件组件以优化AI工作负载部署效率[2] - 每个机架可视为一个AI Pod，纵向扩展（Scale-Up）指单个Pod内增加处理器/内存等资源，横向扩展（Scale-Out）指增加更多Pod节点[4] - XPU为通用处理器术语，涵盖CPU/GPU/NPU/TPU/DPU/FPGA/ASIC等类型，单个XPU刀片通常含2-8个XPU设备[4][6] 扩展模式技术对比 纵向扩展 - 优势：直接添加资源即可扩展，适合传统架构应用；可充分利用高性能服务器硬件（如高效CPU、AI加速器、NVMe存储）[8] - 限制：存在物理硬件瓶颈（如内存或CPU利用率无法线性平衡），托管成本随服务器规模显著上升[8] - 适用场景：内存/处理密集型的数据库服务或容器化应用，示例配置从1CPU/2GB内存扩展至4CPU/8GB内存[8][9] 横向扩展 - 优势：支持长期增量扩展，易缩减规模释放资源，可使用商用服务器降低成本[12] - 挑战：需重构单体架构应用，网络复杂性和跨节点数据一致性管理难度增加[13] - 通信需求：Pod内需极低延迟（如NVLink），Pod间依赖高带宽方案（如InfiniBand/超级以太网）[11][13] 关键硬件与互连技术 - NVIDIA B200 GPU晶体管数量超2000亿，体现XPU设备的高计算密度[5] - InfiniBand与超级以太网竞争数据中心互连标准，后者由AMD/英特尔/微软等推动，强调开放性与互操作性[9][13] - UALink可能成为跨XPU供应商的通用高速互连方案，但NVIDIA对其前景持保留态度[13]