核心观点 OpenAI自主研发的Jalapeno推理芯片在性能测试中全面超越英伟达现有产品线，尤其在单位功耗性能和响应速度上表现突出，旨在降低AI推理成本并构建自主AI基础设施，但公司仍视英伟达为重要合作伙伴[2][3][6] 芯片性能与测试结果 - Jalapeno在单位功耗下可处理更多AI工作量，响应速度更快，竞争对手是英伟达GB300[2] - 在GPT-OSS 120B、DeepSeek R1和Kimi K2.5 1T三个公开模型上，Jalapeno峰值吞吐量下每瓦AI工作量是对比系统的1.5到1.9倍，端到端延迟降低1.7到3.6倍[8] - 高交互性工作负载性能提升2.1到4.1倍[8] - 在最大公开模型Kimi上，每瓦峰值性能比对比系统高出约1.5倍，端到端延迟降低约3.4倍[15][16] - 在内部测试中，Jalapeno在OpenAI前沿模型上的优势进一步扩大[16] - 芯片额定功率为700瓦，但测试中持续功耗保持在550瓦或以下[15] - 使用SemiAnalysis的公开基准测试工具InferenceX进行测试，衡量AI请求完整处理过程[9] - 在吞吐量、能效和延迟方面均表现更佳，单位功耗性能是更实用的标准[9] - Mixed-token吞吐量与现有加速器最快解码速度相匹配[10] 芯片设计与架构优势 - Jalapeno兼具高吞吐量和低延迟优势，现有硬件系统通常需在两者间权衡[3][7] - 设计围绕真实语言模型工作负载，将芯片、内存、网络、软件和机架级系统一体化设计[16] - 最大限度减少数据移动和通信延迟，模型状态可显式放置并保存在本地[17] - 网络是架构不可或缺部分，整个工作负载保持在一个连接系统内[17] - 支持不断变化的模型架构，在预填充和解码阶段均表现出色[17] - 目标应用是AI推理阶段，非训练模型设计[4] - 可处理更大目标，而Cerebras等技术更适合小型模型[5] 成本与部署计划 - 新芯片广泛应用将大幅降低OpenAI成本[3] - 计划今年晚些时候开始使用Jalapeno支持AI模型[2] - 计划年底前开始在OpenAI计算基础设施中部署Jalapeno[19] - 第二代芯片开发接近尾声，预计未来几个月内完成流片[6] - 第三代AI技术已在设计中，旨在降低全球AI基础设施成本[6] - 将加速Jalapeno部署，为客户提供更快、更强大、更高效的产品[9] 开发合作与AI辅助 - OpenAI与博通公司合作开发Jalapeno处理器[3] - 两家公司去年宣布合作，今年6月称赞开发速度创纪录[3] - 利用自主研发AI模型加快芯片开发速度[6] - AI帮助团队在九个月内完成从初始设计到流片[17] - AI优化芯片算术电路，集成更多计算性能[17] - 利用Codex和GPT-Astra，团队两个月内将三个开源权重模型实现高性能运行[18] - 对于选定的GPT-OSS注意力机制和混合专家模型模块，AI生成实现比人工专家编写快1.5到1.8倍[18] 行业竞争与市场定位 - OpenAI加入众多开发自主AI芯片公司行列，该领域由英伟达主导[2] - 其他初创公司如Etched（估值210亿美元）已出货低电压芯片，MatX研发高吞吐量低延迟半导体[5] - OpenAI仍视英伟达为重要芯片供应商和合作伙伴[6] - 将继续广泛部署英伟达及其他合作伙伴加速器用于训练和推理[20] - 短期内不会取代Cerebras等供应商，因计算需求巨大[5]