Meta宣布生产新型定制AI芯片Iris - 公司计划从9月开始生产代号为Iris的新型定制AI芯片,这是其将整体计算能力提升至14GW计划的一部分 [2] - 该芯片旨在更高效地支持AI推理工作负载,帮助降低基础设施成本,并使公司能更好地控制其快速扩展的AI基础设施 [2] - 芯片已顺利完成测试,未出现重大问题,表明已准备好投入生产 [2] 定制芯片的战略优势与动机 - 最大优势在于降低运营成本,公司每天在其平台上执行数十亿次推理请求,即使每瓦性能或每次推理成本仅提升10%到15%,每年也能节省数亿美元 [2] - 降低对英伟达等外部供应商的依赖,减少受制于芯片制造商的产品路线图、定价或供应链波动,带来更大的战略灵活性 [3] - 在与供应商谈判时拥有更大的筹码 [3] - 芯片可专门针对驱动公司平台的推荐系统、排名模型、广告算法和GenAI服务进行定制优化,与通用GPU不同 [3] - 公司可以同时优化芯片、软件、网络和数据中心,使各组件更高效协同工作,在巨大规模下微小的改进也能产生显著影响 [3] 定制芯片面临的挑战与行业背景 - 设计新芯片需要数年时间,成本可能高达数十亿美元,因此只有少数公司拥有足够的资金和工程技术人才来尝试 [3] - 公司必须与英伟达竞争,后者不仅制造强大GPU,还拥有成熟的软件、网络技术和开发者工具生态系统,构建生态系统比制造芯片本身更具挑战性 [4] - 公司并非试图为所有人打造芯片,Iris专为其自身基础设施和工作负载设计,英伟达GPU仍可能继续承担许多最大型的AI训练任务 [4] - 公司计划将更多推理工作负载转移到自有且可控的硬件上 [4] Meta的AI芯片发展路线与基础设施投入 - 公司此前已公布了其Meta训练与推理加速器(MTIA)路线图,Iris显然遵循了相同的战略 [4] - 公司计划在2027年之前大约每六个月推出一款新的AI芯片,速度快于传统的每年或每两年推出一款新芯片的速度 [4] - 为支持扩张,公司已与三星电子、闪迪、住友电工签署了长期供应协议 [5] - 预计仅在2026年,公司就将在人工智能基础设施方面投入高达1450亿美元 [5] 行业趋势:超大规模运营商推动定制芯片 - 超大规模数据中心运营商正试图更多地掌控自身的人工智能基础设施,这被视为重要的战略优势 [2] - 谷歌有自己的TPU,亚马逊有Trainium和Inferentia,微软有Maia,都在为各自的AI工作负载打造芯片,不完全依赖英伟达GPU [5] - 英伟达GPU预计仍将是训练大型AI模型的首选,但拥有更多自有硬件可帮助公司降低成本并更好地掌控AI基础设施的构建和扩展 [5]
Meta为啥死磕芯片?