文章核心观点 - 市场传言OpenAI对英伟达最新AI芯片在推理任务上的性能不满并寻求替代方案 凸显了AI推理正成为芯片竞争的新战场 尽管两家公司CEO均公开反驳了关系紧张的传言 [1] AI推理成为竞争新焦点 - AI推理是指AI模型响应用户查询的过程 如今AI进步越来越侧重于将训练好的模型用于推理和判断 这可能是一个全新且更大的发展阶段 [2] - 推理所需的内存比训练更多 芯片需要花费相对更多时间从内存中获取数据 而非执行数学运算 [2] - 英伟达和AMD的GPU技术依赖外部内存 这会增加处理时间并减慢用户与聊天机器人互动的速度 [2] - 竞争对手如Anthropic的Claude和谷歌的Gemini更多依赖谷歌内部制造的TPU芯片 这些芯片专为推理设计 相比英伟达的通用AI芯片更具性能优势 [2] OpenAI对英伟达芯片的具体不满 - 英伟达芯片的短板在OpenAI用于生成代码的“Codex”产品中表现明显 OpenAI员工将Codex的一些不足归咎于基于英伟达GPU的硬件 [3] - OpenAI首席执行官萨姆·阿尔特曼表示 使用其编码模型的客户“会非常看重编码工作的速度” [3] - OpenAI对英伟达硬件在为ChatGPT用户解决特定类型问题(如软件开发和AI与其他软件交互)时提供答案的速度表现不佳感到不满 [4] - OpenAI需要新的硬件来满足其未来约10%的推理计算需求 [4] OpenAI的替代方案与行业动态 - 为满足对速度的需求 OpenAI采取的应对措施之一是推进其最近与Cerebras的合作 [3] - 在投资谈判拖延期间 OpenAI与AMD等其他公司达成协议 以生产与英伟达竞争的GPU [4] - OpenAI曾与包括Cerebras和Groq在内的初创公司讨论合作 以提供用于更快推理的芯片 [5] - 英伟达后来与Groq达成了一项价值200亿美元的授权协议 这导致OpenAI与Groq的谈判破裂 [5] - 芯片行业高管表示 英伟达收购Groq的决定似乎是为了加强其技术组合 以便在快速变化的AI和芯片行业中更具竞争力 [5] 双方公司的公开立场与合作关系 - 英伟达CEO黄仁勋驳斥了与OpenAI关系紧张的报道 称其“纯属无稽之谈” 并表示英伟达计划对OpenAI进行大规模投资 [6] - 英伟达声明称 客户继续选择英伟达进行推理操作 因为其在大规模应用中提供了最佳的性能和总体拥有成本 [6] - OpenAI发言人声明 公司依靠英伟达驱动其绝大多数的推理设备 并且英伟达在每美元的成本效益方面为推理操作提供了最佳表现 [6] - OpenAI CEO萨姆·阿尔特曼表示 公司喜欢与英伟达合作 并且他们生产世界上最好的AI芯片 希望在很长一段时间里成为其超级大客户 [6] 双方的投资谈判与潜在变数 - 英伟达和OpenAI正处于投资谈判阶段 去年9月英伟达曾表示计划向OpenAI投资多达1000亿美元 以换取股份并提供购买先进芯片的资金 [4] - 该交易原预计数周内完成 但谈判拖延了数月之久 [4] - 业内人士透露 OpenAI不断变化的产品路线图改变了其所需的计算资源类型 并使它与英伟达的谈判陷入僵局 [4]
OpenAI不满英伟达芯片?两高管隔空反驳