Nvidia's Jensen Huang Says AI Compute Could Near $1 Trillion by 2027
英伟达英伟达(US:NVDA) PYMNTS.com·2026-03-17 09:23

英伟达GTC大会核心观点 - 行业正进入“推理拐点”,计算需求正从训练AI模型快速转向在现实应用中持续运行模型,这或将推动历史上最大规模的技术基础设施扩张之一 [5] - 从现在到2027年,AI计算可能带来近1万亿美元的数据中心基础设施需求 [5] - AI智能体(AI agents)的兴起预计将显著增加企业软件、数字助手和自动化工作流中生成的Token数量 [13] AI行业趋势与经济学转变 - 推理已成为新的主要工作负载,Token成为新的商品,AI的长期经济效益日益取决于公司大规模生成Token的效率 [7][11] - 在AI时代,智能Token是新的货币,而“AI工厂”是生成它们的基础设施 [15] - 技术行业对计算基础设施的思考方式正在转变,从主要为周期性模型训练建设数据中心,转向建设旨在持续生成Token的大规模系统 [17] 英伟达的战略与产品发布 - 公司推出下一代AI计算平台Vera Rubin,旨在将每瓦推理性能提升高达10倍,同时将生成Token的成本降低约90% [16] - 公司通过展示“InferenceX”冠军腰带等视觉符号,强调其在AI市场中的定位类似于“Token之王”,专注于提供最低的单Token成本 [11][12] - Vera Rubin平台的推出标志着“智能体AI拐点”已经到来 [12] 推理、Token与计算需求 - 推理是训练后的AI模型为用户生成响应的过程,每次交互产生的输出基本单位称为Token [6] - 由于用户与AI系统持续交互,推理产生的计算需求可能远超最初训练模型所需的资源 [7] - Token是AI生成文本或数据的基本单位,短句可能包含数十个Token,而较长响应可能包含数百个 [6]

Nvidia's Jensen Huang Says AI Compute Could Near $1 Trillion by 2027 - Reportify