核心观点 - OpenAI首颗自研芯片Jalapeño在AI推理性能上全面反超英伟达GB200和GB300，标志着AI芯片竞争格局的重大变化 [1] - OpenAI通过AI辅助芯片设计，将模型、芯片和软件拧成加速飞轮，对英伟达的CUDA护城河构成实质性威胁 [54][55][60] Jalapeño芯片性能实测 - Jalapeño每秒可生成1459个Token，英伟达GB200仅535个，不到一半 [3] - Jalapeño完成一个任务仅需1.65秒，GB300需约6秒，差距达3.6倍 [4] - 将GB300推至最快解码速度时，Jalapeño吞吐量是GB300的104.3倍 [4][23] - 在GPT-OSS 120B、670B和1T模型上，Jalapeño分别快2.7倍、4.1倍和3.8倍 [25] - 两个Token之间间隔仅0.69毫秒 [18] - 标称功耗仅700W，GB300为1400W，整整一半 [5] - 每瓦特AI工作负载提升1.5–1.9倍，端到端延迟降低1.7–3.6倍，高度交互式工作负载性能提升2.1–4.1倍 [15] - 按各自最好工作点算峰值，差距温和至1.9倍、1.7倍和1.5倍 [31] - 真正拉开距离的是高交互场景，随着出词速度提升，领先幅度从1.7倍涨至104.3倍 [30][32] 系统级能效与成本 - 将供电、散热、网络全算入后，Jalapeño每颗1.125千瓦，GB200为1.87千瓦，Vera Rubin为3.3千瓦 [34] - 跑GPT-OSS时，Jalapeño每兆瓦每秒吐出约5300万个Token，GB200 NVL72仅约1000万 [34] - 每芯片每小时总拥有成本，Jalapeño为1.56美元，与H100的1.55美元几乎一样，Vera Rubin为3.61美元 [35] - 每瓦HBM带宽Jalapeño为22，第二名Rubin为11.1，GB300仅5.71，高出整整一倍 [52] - 每瓦FLOPs Jalapeño为19.1，Rubin为19.4几乎打平，但Rubin需烧1800瓦以上，Jalapeño仅700瓦 [52] 未开启的优化潜力 - 上述成绩未开启投机解码和Token预测，也未做prefill和decode分离部署，而对比芯片均跑在各自最优配置 [37] - SemiAnalysis估算，仅投机解码一项就能将每Token成本再压掉2/3以上 [38] AI辅助芯片设计 - 从设计到流片仅用九个月，业内常见周期为18-36个月 [43] - 协助开发的模型为GPT-Astra（外界传的GPT-6），成为团队最强辅助 [44][46] - AI辅助设计使SIMD单元面积减少8%，矩阵引擎面积减少10%，且时序和功耗更优 [47] - 主计算die约840平方毫米，EUV光刻机掩模版极限为858平方毫米，离物理天花板仅差18平方毫米 [50][51] - B0步进已在晶圆厂，每瓦性能比A0再高约25% [53] - 在注意力机制和MoE模块上，AI手敲代码比人类顶尖专家快1.5到1.8倍 [53] 对英伟达CUDA护城河的冲击 - SemiAnalysis判断CUDA护城河可能已死，理由是速度 [60][61] - 英伟达Rubin比Jalapeño早一个月完成CoWoS流片，但外界仅能看到CoreWeave工程样片数据，英伟达未像OpenAI那样让第三方随意测试 [62] - 问题出在软件起步速度，英伟达硬件本身没毛病 [63] - OpenAI从零开始无历史包袱，架构可完全按白纸来画 [64] - 英伟达自己的GPU正在实时催生自己的接班人 [65] 未来路线图与战略布局 - Jalapeño仅为第一代，Gen2已在深度开发，Gen3正在成形 [73] - 量产要到2027年逐步爬坡，下一个里程碑是100兆瓦 [74] - 去年10月OpenAI与博通签署10GW定制加速器合作大单 [68] - 10GW量级相当于约十座核电机组满发 [70] - 数据中心大总管Chris Malone（负责星际之门项目）离职，但核心高管离场挡不住路线继续向前 [76][79]