文章核心观点 - Supermicro推出NVIDIA Vera CPU机架,为256颗CPU、100%液冷的机架级解决方案,补充NVIDIA Vera Rubin平台,面向规模化智能体AI [1] - 该机架为智能体AI、强化学习工作负载和数据处理提供高密度CPU容量,在液冷AI工厂规模下支持22.5K个沙箱 [1] - 该100%液冷CPU机架可与已出货的Supermicro NVIDIA Vera Rubin NVL72配合使用,也可独立部署于AI工厂,为集群提供高密度CPU算力 [1] 产品规格与架构 - 机架集成256颗NVIDIA Vera CPU,提供22,528个核心和45,056个线程,每机架支持最多22,500个并发智能体沙箱 [6] - NVIDIA BlueField-4 DPU提供高性能网络和芯片级安全,Supermicro的DLC-2直接液冷堆栈实现100%液冷机架 [6] - 机架采用第三代NVIDIA MGX设计,属于DLC-2堆栈的一部分,与Vera Rubin NVL72形成通用基础设施架构,支持标准化部署 [7] - NVIDIA MGX是加速计算的模块化参考架构,帮助系统构建商更快设计面向未来的系统,降低成本、加速上市时间并提升ROI [7] - 供电方面,客户可选择传统交流馈电至计算机架,或采用800 VDC侧挂电源机架,以电池备份单元(BBU)替代传统UPS提供断电保护 [7] - 该供电方式有助于释放数据中心地面空间,可提升端到端电源转换效率,并降低CapEx和OpEx [7] 智能体AI工作负载定位 - 智能体AI和强化学习工作负载代表从线性推理链向分支、常带循环的执行演进,中间步骤更多,依赖CPU可用性和性能 [4] - GPU仍是生成token、代码和查询的主要引擎,而基于CPU的沙箱环境执行动作、评估结果、运行工具并编排工作流 [4][5] - 在现代AI工厂规模下,部署数百或数千颗GPU时,需要专用CPU算力来承载数千至数百万个智能体并行执行环境 [5] - 机架为智能体沙箱提供专用256颗NVIDIA Vera CPU容量,通过第三代NVIDIA MGX机架和电池备份单元与Vera Rubin NVL72共享DCBBS基础设施 [4] - 机架将NVIDIA Vera CPU和BlueField-4 DPU与NVIDIA Open Agent Safety平台及OpenShell参考架构集成,实现安全、高密度的智能体AI编排及持续监控与策略执行 [4] - 机架依托Supermicro DCBBS提供完整集成数据中心解决方案,涵盖液冷机架架构、电力基础设施、网络、冷却和部署服务,帮助客户构建和扩展面向智能体工作负载的完整AI工厂 [4] 安全智能体AI能力 - 机架原生支持NVIDIA OpenShell参考架构,持续监控和治理智能体行为,扩展Supermicro对安全AI智能体的支持 [8] - NVIDIA OpenShell运行于NVIDIA Vera CPU,在运行时对智能体施加最小权限、基于策略的控制 [8] - NVIDIA Sentry运行于NVIDIA BlueField-4 DPU,作为带外监控器执行策略、提供经认证的遥测数据,并可在毫秒级隔离越界智能体 [8] - 上述软件方案可帮助企业在生产智能体系统中保持可观测性和可审计性,且不消耗主机CPU资源 [8] 部署模式与配套方案 - Vera CPU机架设计上与Vera Rubin NVL72协同工作,同样适合独立部署 [9] - 针对基于Supermicro DCBBS Blueprints for NVIDIA Vera Rubin NVL72的客户,公司提供可选设计,将Vera Rubin NVL72机架与Vera CPU机架配对,采用基于NVIDIA Spectrum-X以太网的既定网络拓扑、热通道封闭布局,以及来自DLC-2堆栈的冗余列间冷却分配单元(CDU)和后门热交换器 [9] - 单一Supermicro团队支持现场勘察、设计、L11和L12集成与测试、现场部署及持续支持,无论Vera CPU机架是与Vera Rubin NVL72一同部署还是独立部署 [9] - 作为独立CPU平台,机架可加速智能体编排与沙箱、数据库操作、集群管理、Slurm和Kubernetes等调度器、数据分析以及大规模软件构建流水线 [10] 风冷产品组合与高管表态 - 对于寻求风冷部署的客户,Supermicro的NVIDIA Vera CPU产品组合包括风冷1U和2U系统,以及机架级液冷选项 [2] - 公司与NVIDIA合作,通过共同打造的专用架构加速部署时间,实现安全、可扩展的智能体AI [2] - NVIDIA企业平台副总裁表示,随着企业扩展智能体AI和强化学习,支持数千个并发智能体工作流需要新型高密度CPU基础设施 [3] - NVIDIA Vera CPU和BlueField-4 DPU与Supermicro液冷DCBBS架构集成,为客户提供专用算力和基于硬件的安全,以在其AI工厂中扩展智能体工作负载执行 [3] 可用性 - Supermicro NVIDIA Vera CPU机架现已可报价 [11] 公司背景 - Supermicro(NASDAQ: SMCI)是应用优化整体IT解决方案的全球领导者,总部位于加州圣何塞,致力于为企业、云、AI和5G电信/边缘IT基础设施提供首创市场创新 [12] - 公司是整体IT解决方案提供商,产品涵盖服务器、AI、存储、物联网、交换机系统、软件和支持服务 [12] - 公司主板、电源和机箱设计专长支撑其开发和生产,产品在美国、台湾和荷兰内部设计制造,依托全球运营实现规模与效率,优化TCO并减少环境影响(绿色计算)[12][13] - 获奖的Server Building Block Solutions组合允许客户从支持全面外形规格、处理器、内存、GPU、存储、网络、电源和冷却方案(空调、自然风冷或液冷)的灵活可复用构建块中选择,针对确切工作负载和应用进行优化 [13]
Supermicro Introduces the NVIDIA Vera CPU Rack, a 256 CPU, 100% Liquid-Cooled Rack-Scale Solution, Complementing the NVIDIA Vera Rubin Platform, for Agentic AI at Scale