文章核心观点 - OpenAI对英伟达部分最新AI芯片在推理性能上不满意,自去年以来积极寻求替代方案,这为两家在AI热潮中关系最紧密的公司之间的合作与投资谈判带来了复杂性 [1] - 英伟达在AI训练芯片领域占据主导,但AI推理正成为竞争新战场,OpenAI等公司的替代方案寻求标志着英伟达的统治地位面临考验 [1] - 尽管双方高管公开否认关系紧张,但谈判拖延、OpenAI与竞争对手达成协议、以及英伟达收购潜在竞争对手技术等行动,揭示了底层竞争与合作的动态博弈 [2][3][6] OpenAI的战略与行动 - OpenAI对英伟达硬件在ChatGPT处理特定类型问题(如软件开发和AI与其他软件通信)时的回答速度不满意 [2] - 公司需要新的硬件来满足其未来约10%的推理计算需求 [2] - 自去年以来,OpenAI一直在寻找GPU的替代方案,重点关注将大量SRAM内存嵌入同一芯片硅片上的公司,以提升处理用户请求的速度 [4] - 在内部,Codex(用于创建计算机代码的产品)的性能问题尤为突出,部分员工将其归咎于英伟达基于GPU的硬件 [5] - 公司已与AMD以及其他旨在与英伟达竞争的GPU公司达成合作协议 [2] - 公司曾与Cerebras和Groq等初创公司探讨合作,以提供用于更快推理的芯片 [3] - 公司已与Cerebras达成商业协议,以满足编码工作对速度的重视需求 [5] 英伟达的应对与市场动态 - 英伟达计划向OpenAI投资高达1000亿美元,以换取股份并为OpenAI提供购买先进芯片的资金 [1] - 英伟达首席执行官黄仁勋驳斥了关系紧张的报道,称其“毫无根据” [2] - 公司声明强调客户因其能大规模提供最佳性能和总体拥有成本而继续选择英伟达进行推理 [2] - 在OpenAI表达对技术的保留意见后,英伟达曾与Cerebras和Groq等公司接洽探讨潜在收购,Cerebras拒绝了收购提议 [6] - 英伟达与Groq达成了一项价值200亿美元的非独家全现金授权协议,获得了Groq的技术,并挖走了其芯片设计师 [3][6] - 公司表示Groq的知识产权与其产品路线图高度互补 [3] AI芯片行业技术趋势与竞争格局 - AI发展重点正从训练大型模型转向利用训练好的模型进行推理,这可能是AI发展的一个全新、更宏大的阶段 [4] - 推理比训练需要更多内存,因为芯片需要花费更多时间从内存中获取数据 [4] - 英伟达和AMD的GPU技术依赖于外部内存,这会增加处理时间,降低与聊天机器人交互的速度 [4] - 将大量昂贵SRAM集成到每个芯片上,可以为处理数百万用户请求提供速度优势 [4] - 竞争对手如Anthropic的Claude和Google的Gemini,更多地依赖Google内部制造的专为推理设计的张量处理单元(TPU),相比通用GPU可提供性能优势 [5] - Groq曾吸引投资者关注,计划以约140亿美元的估值进行融资 [6]
英伟达GPU,被嫌弃了