Why OpenAI Is Unhappy With Some Nvidia Chips And Searching For Alternatives
文章核心观点 - OpenAI正在探索NVIDIA最新AI芯片的替代方案 此举可能改变AI领域两大关键参与者之间的动态关系 突显了公司对提升AI推理性能的关注 这对于ChatGPT等应用至关重要 [1] OpenAI的战略动因与目标 - 决策源于对NVIDIA硬件在处理特定任务时速度的不满 [2] - 战略重点在于提升AI推理能力 以满足如ChatGPT等应用的需求 [1] - 具体关注采用SRAM密集型设计的替代芯片 这类设计可能为AI应用提供速度优势 [5] - 与Cerebras的合作旨在满足编码模型对更快性能的需求 客户对编码工作的速度极为看重 [6] 对NVIDIA的影响与行业动态 - OpenAI此举正值与NVIDIA就一项潜在1000亿美元投资进行长期谈判之际 [3] - 尽管NVIDIA在AI模型训练领域保持领先 但OpenAI在推理芯片市场寻求替代品可能挑战其主导地位 [3] - OpenAI首席执行官Sam Altman表示 尽管寻求替代方案 但仍希望成为NVIDIA的重要客户 并承认NVIDIA制造“世界上最好的AI芯片” 公司大部分推理需求仍依赖NVIDIA [4] - NVIDIA对Cerebras和Groq等公司也表现出收购兴趣以增强其技术组合 但Cerebras选择了与OpenAI达成商业交易 而NVIDIA则与Groq达成了许可协议 [6] 技术细节与性能考量 - NVIDIA GPU依赖外部存储器 这会增加处理时间 这是OpenAI对其编码产品Codex的担忧所在 [5] - 寻求的替代方案侧重于SRAM密集型设计 以应对速度挑战 [5]