OpenAI与英伟达的关系与合作动态 - 据八位知情人士透露，OpenAI对英伟达最新的一些人工智能芯片并不满意，并且从去年以来一直在寻求替代方案，这可能使两家最受瞩目的公司之间的关系变得复杂[2] - 9月，英伟达表示计划向OpenAI投资高达1000亿美元，以获得该初创公司的股份，并为OpenAI提供购买先进芯片所需的资金[2] - 路透社报道称，这笔交易原本预计几周内就能完成，但谈判拖延了数月之久，在此期间OpenAI还与AMD以及其他旨在与英伟达竞争的GPU达成了合作协议[3] - 英伟达首席执行官黄仁勋驳斥了有关英伟达与OpenAI关系紧张的报道，称这种说法“毫无根据”，并表示英伟达计划对OpenAI进行巨额投资[3] 行业竞争格局与战略转变 - 英伟达的战略转变在于更加重视用于执行特定AI推理环节的芯片，AI推理是指AI模型响应用户查询和请求的过程[2] - 英伟达在用于训练大型AI模型的芯片领域仍然占据主导地位，而推理环节则成为竞争的新战场[2] - OpenAI和其他公司决定在推理芯片市场寻求替代方案，这标志着英伟达在人工智能领域的统治地位受到了重大考验[2] - 英伟达在一份声明中表示，客户继续选择英伟达进行推理，因为其能够大规模地提供最佳性能和总体拥有成本[3] - OpenAI的发言人表示，该公司依靠英伟达为其绝大多数推理集群提供动力，并且英伟达在推理方面提供了最佳的性价比[3] OpenAI对英伟达硬件的具体不满与替代方案 - 七位消息人士称，OpenAI对英伟达硬件在ChatGPT上针对特定类型问题（例如软件开发和人工智能与其他软件通信）给出答案的速度并不满意[3] - 一位消息人士告诉路透社，OpenAI需要新的硬件，最终以满足其未来约10%的推理计算需求[3] - ChatGPT的开发商OpenAI曾与Cerebras和Groq等初创公司探讨合作，以提供用于更快推理的芯片[4] - 英伟达与Groq达成了一项价值200亿美元的授权协议，导致OpenAI与Groq的谈判破裂[4] - OpenAI自去年以来一直在寻找GPU的替代方案，重点关注那些将大量内存（称为SRAM）嵌入到芯片同一块硅片上的公司[7] - 将尽可能多的昂贵SRAM集成到每个芯片上，可以为聊天机器人和其他人工智能系统处理数百万用户的请求提供速度优势[7] - 推理比训练需要更多内存，因为芯片需要花费更多时间从内存中获取数据，而不是执行数学运算，英伟达和AMD的GPU技术依赖于外部内存，这会增加处理时间，降低用户与聊天机器人交互的速度[7] OpenAI在特定产品上的性能挑战 - 在OpenAI内部，硬件性能问题在其用于创建计算机代码的产品Codex上表现得尤为突出，该公司一直在大力推广该产品[8] - 一位消息人士称，OpenAI员工将Codex的部分缺陷归咎于英伟达基于GPU的硬件[8] - 首席执行官Sam Altman表示，使用OpenAI编码模型的客户将“非常重视编码工作的速度”[8] - Altman表示，OpenAI满足这一需求的一种方式是通过其最近与Cerebras达成的协议，并补充说，对于ChatGPT的普通用户来说，速度并不是那么重要[8] - 像Anthropic的Claude和Google的Gemini这样的竞争产品受益于更多地依赖Google内部制造的芯片（称为张量处理单元或TPU）的部署，这些芯片专为推理所需的计算而设计，并且与英伟达设计的GPU等通用AI芯片相比，可以提供性能优势[8] 英伟达的应对措施与行业整合 - 在OpenAI明确表达了对英伟达技术的保留意见后，英伟达曾与包括Cerebras和Groq在内的多家研发大量使用SRAM芯片的公司接洽，探讨潜在的收购事宜[10] - Cerebras拒绝了英伟达的收购提议，并与OpenAI达成了上个月宣布的商业协议[10] - Groq曾与OpenAI就提供计算能力进行谈判，并吸引了投资者的关注，计划以约140亿美元的估值为其注资[10] - 到了12月，英伟达采取了非独家全现金交易的方式，获得了Groq的技术授权，虽然这项交易允许其他公司获得Groq的技术授权，但由于英伟达挖走了Groq的芯片设计师，该公司目前正专注于销售云端软件[10] - 芯片行业高管表示，英伟达收购Groq核心人才的决定，似乎是为了巩固其技术组合，从而在快速变化的AI行业中更好地竞争[5] - 英伟达在一份声明中表示，Groq的知识产权与英伟达的产品路线图高度互补[5]