文章核心观点 - AI芯片竞争的核心已从硬件性能转向软件生态,英伟达凭借近二十年的CUDA生态积累构筑了强大的护城河,而谷歌TPU和亚马逊Trainium等专用芯片则凭借在规模化训练和推理场景下的显著性价比优势进行挑战 [2][7][18] - AI基础设施的选择策略出现分化:研究/实验阶段追求迭代速度,英伟达GPU是首选;规模化训练和推理阶段追求成本效益,专用芯片(TPU/Trainium)优势明显;领先的AI公司如Anthropic通过承担高昂的工程成本,采用多平台策略以平衡性能、成本与供应链安全 [6][12][16][19] Midjourney对谷歌TPU的公开复盘 - Midjourney CEO公开表示,因早期选择谷歌TPU而非英伟达GPU进行核心训练,导致其研究进度落后了整整一年 [1] - 在研究和训练阶段,TPU生态(JAX/TensorFlow)与主流AI研究社区(PyTorch+CUDA)存在隔阂,导致自定义算子实验、快速原型迭代及调用Hugging Face生态组件等研究工作步履维艰,拖慢研究进度 [3][4] - 在推理阶段,TPU展现出显著的成本优势:Midjourney将主力推理集群迁移至谷歌Cloud TPU v6e后,月度推理支出从约210万美元降至70万美元以下,年化节省超过1680万美元,回本周期仅11天 [6] - Midjourney的教训是策略选择问题:应在研究阶段使用英伟达GPU打磨模型,在推理阶段再迁移至谷歌TPU降本,而非从一开始就在TPU上进行研究 [6] 英伟达的生态护城河 - 英伟达的护城河核心在于其近二十年积累的CUDA软件生态,包括与PyTorch等主流框架的深度绑定、丰富的开源模型资源(如Hugging Face)、以及成熟的调试与优化工具链(Nsight, NCCL, TensorRT) [3][7] - 行业惯性强大:2026年PyTorch在研究论文中占有率仍高达85%,几乎所有前沿研究代码都基于英伟达硬件,使得转向其他平台需承担与主流社区隔离的隐性成本 [7] - 生态积累无法速成,这是英伟达最值钱的资产,即便竞争对手硬件性能相当甚至更优,也难以在短期内撼动其研究领域的统治地位 [7] 谷歌TPU的战略调整与挑战 - 谷歌发布第八代TPU,首次采用双芯片策略:TPU 8t(代号Sunfish)专攻训练,性价比比上代提升2.7倍;TPU 8i(代号Zebrafish)专攻推理,在大型MoE模型低延迟推理上性价比比上代提升80% [8] - 双芯片战略是对“训练与推理已成两种不同工作负载”的承认,也是对英伟达“一块GPU通吃”路线及亚马逊Trainium3的正面回击 [9] - 为解决生态壁垒,谷歌同步推出TorchTPU项目,旨在让PyTorch原生运行在TPU上,但目前仍为预览版,其成熟度和易用性有待2027年量产后的实战验证 [9][10] - TPU的供给面临制约:受台积电先进封装产能限制,谷歌原计划2026年达到400万颗TPU的目标已推迟至2027年 [19] Anthropic的多平台策略与工程实践 - Anthropic(Claude开发商)同时使用英伟达GPU、谷歌TPU和亚马逊Trainium三套硬件,此策略得益于其接受了谷歌和亚马逊的巨额投资(两家合计近100亿美元),并使用了超过百万张Trainium芯片和数十万张TPU [11][12] - 策略逻辑是不同工作负载匹配最适合的芯片:英伟达GPU用于研究实验和快速原型;谷歌TPU和亚马逊Trainium分别承接大规模训练和推理主力工作,并在供应商间形成制衡,防止单一平台绑架定价权 [12] - 技术基础是关键:公司核心团队来自Google Brain,以JAX为核心训练框架,其硬件无关特性使得同一套代码可通过XLA编译器在GPU、TPU、Trainium上运行 [14] - 多平台策略代价高昂:需承担三倍的部署与测试复杂度,工程团队必须与芯片供应商闭门联合开发,重写并优化底层代码,人力与时间成本远超单一平台 [15] - 该策略带来了显著的性价比收益:谷歌TPU和亚马逊Trainium在大规模推理时的总拥有成本(TCO),比英伟达平台高出50%以上,并获得了供应链安全与议价能力 [16][17][19] AI芯片未来竞争格局 - 训练侧:英伟达仍是研究实验首选,但在超大规模稳定训练上,TPU(如TPU 8t)和Trainium正以性价比优势侵蚀份额,“研究用GPU、训练用专用芯片”的混合策略将更普遍 [18] - 推理侧:这是增速最快的部分,2026年初已占AI算力总支出的55%,预计2030年将占75%。专用芯片(如TPU 8i、Trainium)在此场景凭借优化可实现大幅成本削减(如Midjourney案例中的65%) [18] - 生态侧:长期战局,焦点在于谷歌TorchTPU能否实现PyTorch研究员的无缝迁移,以及亚马逊通过Bedrock平台构建应用层生态 [18] - 策略启示:对大多数中小AI公司,研究阶段全用英伟达生态摩擦最低;待模型稳定、推理规模上来后再评估专用芯片的迁移经济性。对Anthropic级巨头,多平台策略的核心是确保供应链韧性并获取议价能力 [19] - 竞争本质是硬件性能、生态效率、性价比、研究速度、专用优化与通用灵活性等多重矛盾的综合较量 [20]
「选了谷歌,落后一年!」美国AI领袖「砸场」谷歌:省点钱却输了时间,英伟达笑醒?