核心观点 - OpenAI自研推理芯片Jalapeño在特定基准测试中性能功耗比和响应速度超越英伟达GB300，但该芯片仅用于推理，不涉及训练，且未与英伟达最新一代Vera Rubin对比，因此不构成对英伟达的全面替代[1][2][4] 芯片性能与测试结果 - Jalapeño在SemiAnalysis的InferenceX基准测试中，对比英伟达GB300，在每名用户Token生成速度和每千瓦吞吐量两项指标上取得领先[2] - 在DeepSeek R1模型上，并发量为1时，Jalapeño每名用户生成速度超过700 Token/秒[2] - Jalapeño在几乎所有测试场景中的性能功耗比都超过GB300，且未使用多Token预测（MTP），而对比芯片使用了各自表现最好的配置并启用MTP[2] - 测试覆盖了OpenAI自身较小的开放模型、DeepSeek和Moonshot AI的第三方模型，其中在Kimi模型上的优势更明显[2] - 内部测试中，Jalapeño运行了尚未发布的大型先进模型，公司认为随着工作负载变大变复杂，该设计的价值可能进一步提升[3] 功耗与成本优势 - Jalapeño在约700瓦功耗下取得较强性能，电力是大型AI数据中心的重要成本来源[3] - OpenAI硬件负责人Richard Ho表示，随着Jalapeño扩大部署，应会大幅降低成本，公司希望通过更低的单位推理成本支撑不断增加的模型调用和用户需求[3] - 芯片专门优化了Prefill和通信阶段，以减少数据移动和通信延迟，模型状态（包括KV Cache）被明确放置并尽量保留在本地[3] 芯片定位与设计特点 - Jalapeño由OpenAI与博通合作开发，从2024年年中开始组建团队和推进设计，到完成流片约用了16个月[1] - SemiAnalysis认为Jalapeño是一款通用推理处理器，可运行不同模型和工作负载，优势来自软硬件协同，而非对单一推理环节的极端优化[4] - 芯片目前只面向推理（Inference），不负责大模型训练，训练仍是英伟达GPU的重要优势领域[1][4] - OpenAI并未将Jalapeño包装成“英伟达杀手”，公司硬件负责人明确表示英伟达是很好的合作伙伴，仍需要大量英伟达芯片[1] 部署计划与供应商策略 - Richard Ho预计Jalapeño将在2026年底以“非常小的规模”开始部署，更大规模使用要到2027年，届时英伟达产品可能已进一步迭代[4] - OpenAI不会停止使用其他推理芯片供应商，部分模型仍使用Cerebras Systems的技术[5] - Richard Ho表示Jalapeño能处理更大模型，但短期内不会取代Cerebras，因为公司对算力需求巨大，已签下多个不同供应商[5] 芯片迭代与长期规划 - Jalapeño不是一次性项目，OpenAI计划将其发展为多代际平台，让模型、芯片、内存和AI产品共同演进[5] - 公司使用自身AI模型参与芯片开发，以加快设计流程[5] - 第二代芯片已进入较深入开发阶段，预计将在“未来几个月”完成流片，第三代产品的概念设计也已启动[5]