核心观点 - OpenAI自研推理芯片Jalapeño在实测中,以不到对手一半的功耗,在推理吞吐量和延迟上全面超越英伟达GB200和GB300,标志着AI公司通过大模型自身能力攻破了CUDA生态壁垒,芯片行业竞争格局面临重塑[2][4][6] 芯片性能对比 - Jalapeño额定700W,实测持续功耗不超过550W,而GB200 TDP为1200W,GB300为1400W[13] - 在峰值每瓦吞吐量上,Jalapeño在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T上分别达到对比系统的1.9倍、1.7倍和1.5倍[24] - 端到端延迟表现优于对手1.7至3.6倍[13] - 在等速对比口径下,以DeepSeek R1为例,当单用户生成速度维持在约169 token/秒时,Jalapeño每千瓦可处理约1.23万token/秒,GB300仅约118,差距约104.3倍[21] - 在GPT-OSS和Kimi K2.5上,类似口径差距分别约为53.7倍和56.1倍[21] - Jalapeño在GPT-OSS上单用户每秒最高生成约1,459个token,GB200约535个token/秒[24] - 在DeepSeek R1上,Jalapeño单用户生成速度最高约700 token/秒,GB300约169 token/秒,差距约4.1倍[24] - 在Kimi K2.5上,Jalapeño单用户生成速度最高约694 token/秒,GB300约182 token/秒,差距约3.8倍,最低端到端延迟分别为1.56秒和5.31秒[24] 芯片规格参数 - Jalapeño FP8性能为3.4 PFLOPS,FP4性能为13.4 PFLOPS,HBM容量为216 GiB,HBM带宽为15.4 TB/s,TDP为700W[3] - 对比英伟达GB300:FP8性能5 PFLOPS,FP4性能15 PFLOPS,HBM容量288 GB,HBM带宽8 TB/s,TDP为1400W[3] - 对比英伟达Rubin:FP8性能17.5 PFLOPS,FP4性能35 PFLOPS,HBM容量288 GB,HBM带宽20 TB/s,TDP为1800-2300W[3] AI造芯流水线 - OpenAI利用自家旗舰模型GPT-6(代号Astra)和内部加强版Codex下场造芯,9个月完成硬件设计与优化,流片后3个月内从零设计出完整底层代码软件栈[4] - 硬件设计层:AI被用于探索实现方案、缩短验证周期,并直接优化芯片内部算术电路,使核心计算面积显著缩减,从设计到流片仅用9个月,而传统ASIC研发周期动辄数年[25] - Jalapeño采用一整块Compute Die,左右各三颗共6颗HBM4,顶部为I/O Chiplet,计算核心与HBM4切分成对应“切片”,每个核心切片直连本地HBM,走极简低延迟访问路径[27] - 软件编译层:OpenAI使用内部增强版Codex,让AI自动寻找更优的算子实现,在DeepSeek R1适配中,Codex在几乎没有底层算子工程团队介入下,很快写出可运行且高效的MLA算子实现[29] - 在GPT-OSS的部分注意力和混合专家模块中,AI生成的底层代码比此前人类专家编写的版本快1.5~1.8倍[30] - 模型移植层:OpenAI自研编程语言和编译引擎,绕开CUDA生态,让AI直接把高层算法翻译成底层硬件配置[32] 行业影响与趋势 - SemiAnalysis判断,考虑到OpenAI能在自家芯片上如此快速地适配新模型,CUDA的护城河岌岌可危[23] - 过去十年,Graphcore、寒武纪、Cerebras等挑战者都倒在CUDA软件高墙下,但新一代挑战者换成了大模型,它们在算力上“反噬”宿主,重塑芯片设计产业链[6] - 腾讯云CEO汤道生表示腾讯整体算力“严重不足”,已拖慢混元模型训练和产品发展[32] - 从Anthropic组建内部芯片团队并与三星讨论定制AI芯片,到国内DeepSeek和智谱,模型公司实现算力供给闭环已成共识[33] - 当AI介入芯片设计,软硬件协同的迭代速度将被彻底改写[33]
用 Astra+Codex 干掉 CUDA!奥特曼9个月AI造芯反杀英伟达 GB300