Workflow
NVIDIA Blackwell Ultra AI Factory Platform Paves Way for Age of AI Reasoning

文章核心观点 - 英伟达宣布推出下一代Blackwell AI工厂平台Blackwell Ultra,为AI推理时代铺平道路,可加速AI推理、代理AI和物理AI等应用 [1][15] 产品介绍 - Blackwell Ultra基于一年前推出的Blackwell架构,包括GB300 NVL72机架级解决方案和HGX™ B300 NVL16系统 [2] - GB300 NVL72连接72个Blackwell Ultra GPU和36个基于Arm Neoverse的Grace™ CPU,AI性能比GB200 NVL72高1.5倍,相比基于Hopper™构建的AI工厂,将Blackwell的营收机会提高50倍 [2][3] - HGX B300 NVL16在大语言模型上的推理速度比Hopper一代快11倍,计算能力高7倍,内存大4倍,为复杂工作负载提供突破性性能 [5] 应用场景 - Blackwell Ultra平台适用于AI推理、代理AI和物理AI等应用,代理AI可自主解决复杂多步骤问题,物理AI可实时生成合成逼真视频用于机器人和自动驾驶汽车训练 [1][17] 技术支持 - Blackwell Ultra系统与Spectrum-X™以太网和Quantum-X800 InfiniBand平台无缝集成,每个GPU数据吞吐量达800 Gb/s,提供一流的远程直接内存访问能力 [6] - BlueField® - 3 DPUs支持多租户网络、GPU计算弹性、加速数据访问和实时网络安全威胁检测 [7] 合作伙伴与可用性 - 预计2025年下半年起,Cisco、Dell Technologies等众多合作伙伴将推出基于Blackwell Ultra的服务器,亚马逊、谷歌等云服务提供商和GPU云提供商将率先提供相关实例 [8][9] 软件创新 - 英伟达Dynamo开源推理框架可扩展推理AI服务,提高吞吐量、减少响应时间和模型服务成本,最大化AI工厂的代币收入 [10][11] - Blackwell系统适用于运行新的Llama Nemotron Reason模型和AI - Q蓝图,由AI Enterprise软件平台支持,该平台包含NIM™微服务等 [12] - Blackwell平台基于英伟达强大的开发工具生态系统、CUDA - X™库、超600万开发者和4000 +应用程序 [13]