核心观点 - OpenAI自研推理芯片Jalapeño在吞吐、能效、延迟三项指标上全面反超英伟达GB200与GB300，并被认为超越了英伟达Rubin芯片 [1][3] - 该芯片由OpenAI与博通合作开发，设计到流片仅用9个月，AI辅助设计是关键 [5] - SemiAnalysis判断CUDA的护城河可能已死，但OpenAI与英伟达的绑定仍在加深 [7] 芯片性能对比 - 单用户出词速度：Jalapeño每秒1459个Token，GB200为535个 [1] - 任务完成时间：Jalapeño用1.65秒，GB300花了5.99秒 [1] - 功耗：Jalapeño标称700瓦，实测持续功耗压在550瓦以内；GB200/GB300标称1400瓦 [1] - 每瓦AI工作负载提升1.5至1.9倍，端到端延迟降低1.7至3.6倍，高度交互式负载下优势扩大到2.1至4.1倍 [3] 芯片设计与制造 - 设计到流片仅用9个月，业内常见周期为18到36个月 [5] - 将自家最强模型GPT-Astra和Codex用于AI辅助设计，使SIMD单元面积减少8%、矩阵引擎面积减少10% [5] - 在注意力与MoE模块上，AI生成的代码比人类顶尖专家快1.5到1.8倍 [5] - 主计算die约840平方毫米，距EUV掩模版极限858平方毫米只差18平方毫米 [5] 硬件规格与成本 - 配6颗HBM4、共216GiB、15.4TB/s [5] - 每瓦HBM带宽22，第二名Rubin是11.1，GB300只有5.71 [5] - 每芯片每小时总拥有成本1.56美元，与H100的1.55美元几乎持平，Vera Rubin是3.61美元 [5] - 与博通合作，两家于去年10月签下10GW定制加速器大单 [5] 量产与未来规划 - 量产2027年逐步爬坡，下一里程碑是100兆瓦 [5] - Gen2已在深度开发、Gen3正在成形 [5] - 2026年底先部署进OpenAI自己的数据中心 [5] 行业竞争格局 - 英伟达Rubin比Jalapeño早一个月完成CoWoS流片，但外界能看到的成绩只有CoreWeave工程样片数据 [7] - 英伟达没有像OpenAI这样把第三方放进实验室随便测 [7] - SemiAnalysis判断CUDA的护城河可能已经死了 [7] 英伟达与OpenAI的绑定关系 - 8月17日，英伟达同意为OpenAI俄亥俄州数据中心园区提供最高1050亿美元融资 [7] - OpenAI承诺2026年下半年部署首批1吉瓦英伟达Vera Rubin系统 [7] - OpenAI芯片负责人Richard Ho表示仍需要大量英伟达芯片 [7] - 这一切落在英伟达财报前夜，焦点包括OpenAI算力承诺的会计处理 [7]

核心观点 - OpenAI首颗自研芯片Jalapeño在AI推理性能上全面反超英伟达GB200和GB300，标志着AI芯片竞争格局的重大变化 [1] - OpenAI通过AI辅助芯片设计，将模型、芯片和软件拧成加速飞轮，对英伟达的CUDA护城河构成实质性威胁 [54][55][60] Jalapeño芯片性能实测 - Jalapeño每秒可生成1459个Token，英伟达GB200仅535个，不到一半 [3] - Jalapeño完成一个任务仅需1.65秒，GB300需约6秒，差距达3.6倍 [4] - 将GB300推至最快解码速度时，Jalapeño吞吐量是GB300的104.3倍 [4][23] - 在GPT-OSS 120B、670B和1T模型上，Jalapeño分别快2.7倍、4.1倍和3.8倍 [25] - 两个Token之间间隔仅0.69毫秒 [18] - 标称功耗仅700W，GB300为1400W，整整一半 [5] - 每瓦特AI工作负载提升1.5–1.9倍，端到端延迟降低1.7–3.6倍，高度交互式工作负载性能提升2.1–4.1倍 [15] - 按各自最好工作点算峰值，差距温和至1.9倍、1.7倍和1.5倍 [31] - 真正拉开距离的是高交互场景，随着出词速度提升，领先幅度从1.7倍涨至104.3倍 [30][32] 系统级能效与成本 - 将供电、散热、网络全算入后，Jalapeño每颗1.125千瓦，GB200为1.87千瓦，Vera Rubin为3.3千瓦 [34] - 跑GPT-OSS时，Jalapeño每兆瓦每秒吐出约5300万个Token，GB200 NVL72仅约1000万 [34] - 每芯片每小时总拥有成本，Jalapeño为1.56美元，与H100的1.55美元几乎一样，Vera Rubin为3.61美元 [35] - 每瓦HBM带宽Jalapeño为22，第二名Rubin为11.1，GB300仅5.71，高出整整一倍 [52] - 每瓦FLOPs Jalapeño为19.1，Rubin为19.4几乎打平，但Rubin需烧1800瓦以上，Jalapeño仅700瓦 [52] 未开启的优化潜力 - 上述成绩未开启投机解码和Token预测，也未做prefill和decode分离部署，而对比芯片均跑在各自最优配置 [37] - SemiAnalysis估算，仅投机解码一项就能将每Token成本再压掉2/3以上 [38] AI辅助芯片设计 - 从设计到流片仅用九个月，业内常见周期为18-36个月 [43] - 协助开发的模型为GPT-Astra（外界传的GPT-6），成为团队最强辅助 [44][46] - AI辅助设计使SIMD单元面积减少8%，矩阵引擎面积减少10%，且时序和功耗更优 [47] - 主计算die约840平方毫米，EUV光刻机掩模版极限为858平方毫米，离物理天花板仅差18平方毫米 [50][51] - B0步进已在晶圆厂，每瓦性能比A0再高约25% [53] - 在注意力机制和MoE模块上，AI手敲代码比人类顶尖专家快1.5到1.8倍 [53] 对英伟达CUDA护城河的冲击 - SemiAnalysis判断CUDA护城河可能已死，理由是速度 [60][61] - 英伟达Rubin比Jalapeño早一个月完成CoWoS流片，但外界仅能看到CoreWeave工程样片数据，英伟达未像OpenAI那样让第三方随意测试 [62] - 问题出在软件起步速度，英伟达硬件本身没毛病 [63] - OpenAI从零开始无历史包袱，架构可完全按白纸来画 [64] - 英伟达自己的GPU正在实时催生自己的接班人 [65] 未来路线图与战略布局 - Jalapeño仅为第一代，Gen2已在深度开发，Gen3正在成形 [73] - 量产要到2027年逐步爬坡，下一个里程碑是100兆瓦 [74] - 去年10月OpenAI与博通签署10GW定制加速器合作大单 [68] - 10GW量级相当于约十座核电机组满发 [70] - 数据中心大总管Chris Malone（负责星际之门项目）离职，但核心高管离场挡不住路线继续向前 [76][79]