Workflow
大模型推理商业化
icon
搜索文档
SemiAnalysis拆解算力荒:OpenAI与Anthropic正在抢光全球新增算力
华尔街见闻· 2026-11-04 19:12
文章核心观点 - OpenAI和Anthropic大量预订算力,2027年两家拿走的新增算力占比在25%到40%之间,算力供需严重失衡,买得起算力不等于拿得到算力 [3] - 算力租赁价格大幅上涨,H100一年期合约价从去年10月低点每小时1.70美元涨到2.80美元左右,卖token推理利润极高持续推高租价 [3][9] - 资金端吃紧,美债收益率大幅上升,10年期收益率10月初升至5%以上,靠借钱建机房的新兴云厂商越来越难融到资 [4] - 英伟达已出面为约6.5吉瓦算力托底,但在2030年前新增算力里只占很小一部分,杯水车薪 [4] - 云厂商交付能力和安全性存疑,即使租到算力,集群好不好用才决定实际价值 [15][16] 算力需求与买家集中度 - 全球算力总量2024年底约60吉瓦,今年底超过100吉瓦,两年接近翻倍 [6] - OpenAI和Anthropic两家算力总量去年底合计约4吉瓦,今年约10吉瓦,明年超过20吉瓦 [6] - 2027年一年两家合计新增约12吉瓦,全球当年新增总量约40吉瓦,占比约三成;到2028年AI实验室一年就要新增约30吉瓦 [6] - 两家拿走的是新增算力里25%、30%、40%的那一部分,去年底OpenAI和Anthropic收入随Claude Code开始飙升,于是疯狂买算力,Meta也开始疯狂买 [7] - 这些算力主要用于训练而非推理,Anthropic今天有4吉瓦,整个Claude Code只用其中约1吉瓦来服务,花在推理上的算力比训练少得惊人,即便用户端需求稳定,实验室训练新模型的预算仍会继续占用芯片 [7] 算力租赁价格与推理经济性 - 自建一个B300集群,建设和五年运营摊下来约合每年900万美元;向云厂商租能做到每年1400万美元就算走运 [9] - 用一兆瓦算力跑开源模型DeepSeek V4.1 Flash,利用率60%情况下一年收入约7000万美元,即使租价高出自建成本五成,卖推理收入仍是租金的五倍 [9] - 即使利用率只有30%仍然会赚到离谱的钱,有数十人专门租GPU卖推理赚了很多钱 [9] - 该测算基于SemiAnalysis开源的InferenceX基准,只用vLLM和SGLang两套开源推理软件,团队只有四个工程师,未做投机解码等进一步优化 [10] - H100去年10月约1.70美元,最低能找到1.45美元,现在成交价在2.40至3.20美元之间,中间值2.80美元;SemiAnalysis一年期合约指数今年3月已是2.35美元,10月Nebius等厂商挂牌价继续上调 [11] - 判断若H100涨到3美元以上、B300涨到7美元以上不会感到意外;建议能找到6美元一小时的B300就应该签下来去卖token [12] - Anthropic服务Fable和Opus 5.5的收入超过1亿美元,来自其IPO过程中披露给投资者的材料,按上下文应是每兆瓦的年收入 [12] 云厂商交付能力与安全性评测 - SemiAnalysis的ClusterMAX评测追踪323家云供应商,评测其中77家,给19家授予奖牌 [16] - 最好的是CoreWeave和Nebius,但两家可得性都很差,未来六个月不会再卖算力,已售罄;Nebius要求预付整整一年或六个月,价格高得离谱 [17] - Oracle和Google也被评为很好,Google从首轮铜牌一路升级;Azure降为银牌,Together和AWS降为铜牌,Crusoe也被下调 [17] - AWS问题偏体验,要拿到一个集群得和约十个人打交道,耗时极长,网络也有点难搞 [17] - 安全评测中最刺眼,有些漏洞是互联网上早已公开的,模型能直接找到并利用,然后访问其他客户的存储;一次用落后于OpenAI和Anthropic的开源模型拿到整个集群的Slurm权限,看到某国国防工业和国家安全情报机构的作业名称,随即停止测试并发表《大多数Neocloud在安全上很烂》 [17] - 向GPU注入故障(Nvidia错误码XID 719)测试,很多云要等到提醒才会发现,有些即便提醒也要几天才响应 [17] 资本开支与融资环境 - 到2029年底全球AI资本开支约11万亿美元,其中约7万亿来自债务,大部分钱花在芯片上,其余是数据中心、能源以及为更快投产而在现场自建的电厂 [19] - 10年期美债收益率今年从3.96%升到10月初的5.31%,AI相关债务发行9月明显降温 [20] - 一家有100兆瓦规模的Neocloud想扩到1吉瓦时,唯一办法是把那一吉瓦卖给超大规模云厂商,再由超大规模云厂商去债市融资,但这些算力没有一点能进入面向整个行业的市场 [20] - 明年已签约算力里大约65%到70%流向超大规模云厂商和AI实验室;创业公司租集群要先付一半,三到九个月后才能交付 [22] - 对最近融到大钱的新实验室来说拿算力就是地狱 [22] 英伟达托底模式 - SoftBank Energy:只担保土地、电力和厂房,这是俄亥俄州一座9吉瓦的设施,约2030年投运,全部预留给OpenAI [22] - Firmus:英伟达承诺按某价格租下集群,使对方不赚钱但也不亏钱,有了这份保证别人就愿意放贷;超出该价格的每一美元每小时英伟达拿走一半 [22] - 残值担保:只提到有这一类,没有展开 [23] - 英伟达已托底约6.5吉瓦,这部分会卖给开放市场而非只供实验室和超大规模云厂商,上限是45吉瓦,即便如此也只占2030年前新增算力的很小一部分 [23] - Fireworks、Modal等做推理的公司以及不少新实验室正转向自建集群,拿贷款、找英伟达背书 [23] 行业规模与结语判断 - 几家提供商加起来每天处理超过100万亿token,各家年化收入都在攀升 [24] - 结语是希望他们能拿到算力,否则我们都是Anthropic和OpenAI的奴隶 [24]
SemiAnalysis拆解算力荒:OpenAI与Anthropic正在抢光全球新增算力
华尔街见闻· 2026-11-04 12:28
文章核心观点 - SemiAnalysis创始人Dylan Patel指出算力需求高度集中于OpenAI和Anthropic两家实验室,2027年两家拿走新增算力的25%至40%,导致H100一年期合约价从去年10月低点每小时1.70美元涨至约2.80美元,其他公司买得起算力却拿不到算力 [1][3] - 资金端同步吃紧,10年期美债收益率10月初升至5%以上,靠借钱建机房的新兴云厂商融资困难,英伟达为约6.5吉瓦算力托底但在2030年前新增算力中仅占很小一部分 [1][8] - 卖开源模型推理利润极高,推动GPU租价持续上行,即便租价高出自建成本五成,卖推理收入仍是租金的五倍 [4] - 租到算力只是第一步,云厂商交付能力和安全性存疑,ClusterMAX评测显示多数云厂商在安全与故障监控上表现不佳 [6][7] - 利率上行背景下贷款明显偏向超大规模云厂商和AI实验室,明年已签约算力中约65%至70%流向这两类买家,创业公司拿算力极为困难 [8] 全球算力总量与增长 - 2024年底全球算力约60吉瓦,今年底超过100吉瓦,两年接近翻倍 [2] - OpenAI和Anthropic两家算力总量去年底合计约4吉瓦,今年约10吉瓦,明年超过20吉瓦 [2] - 2027年两家合计新增约12吉瓦,全球当年新增总量约40吉瓦,占比约三成;到2028年AI实验室一年就要新增约30吉瓦 [2] - 这些算力主要用于训练而非推理,Anthropic今天有4吉瓦,整个Claude Code只用其中约1吉瓦服务用户,推理算力比训练少得惊人,即便用户端需求稳定,训练预算仍会继续占用芯片 [3] GPU租价与推理经济性 - H100去年10月低点约1.70美元,最低能找到1.45美元,现在成交价在2.40至3.20美元之间,中间值2.80美元 [5] - SemiAnalysis一年期合约指数今年3月已达2.35美元,10月Nebius等厂商挂牌价继续上调 [5] - 自建B300集群建设加五年运营摊薄约合每年900万美元,向云厂商租能做到每年1400万美元就算走运 [4] - 用一兆瓦算力跑开源模型DeepSeek V4.1 Flash,利用率60%时一年收入约7000万美元,为租金的五倍(未扣除人力和其他成本),即便利用率只有30%仍利润丰厚 [4] - 该测算基于SemiAnalysis开源的InferenceX基准,仅用vLLM和SGLang两套开源推理软件,团队只有四个工程师,未做投机解码等进一步优化 [5] - Patel判断H100涨到3美元以上、B300涨到7美元以上不会意外,建议若能找到6美元一小时的B300就应签下并去卖token [5] - 闭源模型方面,Anthropic服务Fable和Opus 5.5的收入超过1亿美元,来自其IPO过程中披露给投资者的材料,按上下文应是每兆瓦的年收入 [5] - 云厂商都要求预付,一年期合约很难买到,创业公司往往说不准一年后是否还在,融资难度更大 [5] 云厂商交付能力与安全评测 - ClusterMAX评测追踪323家云供应商,评测其中77家,给19家授予奖牌 [6] - 最好的是CoreWeave和Nebius,但两家未来六个月已售罄,Nebius要求预付整整一年或六个月且价格高得离谱 [6] - Oracle和Google也被评为很好,Google从首轮铜牌一路升级;Azure降为银牌,Together和AWS降为铜牌,Crusoe也被下调 [6] - AWS的问题偏体验,要拿到一个集群需和约十个人打交道,耗时极长,网络也有点难搞 [6] - 安全测试中,AI模型能直接找到并利用互联网上早已公开的漏洞,访问其他客户的存储;一次用落后于OpenAI和Anthropic的开源模型拿到整个集群的Slurm权限,看到某国国防工业和国家安全情报机构的作业名称,测试随即停止并发表《大多数Neocloud在安全上很烂》 [6] - 向GPU注入故障(Nvidia错误码XID 719)测试中,很多云要等到提醒才会发现,有些即便提醒也要几天才响应 [7] 资本开支、债务与融资环境 - 到2029年底全球AI资本开支约11万亿美元,其中约7万亿来自债务,大部分花在芯片上,其余是数据中心、能源以及为更快投产而现场自建的电厂 [8] - 10年期美债收益率今年从3.96%升到10月初的5.31%,AI相关债务发行9月明显降温 [8] - 一家有100兆瓦规模的Neocloud想扩到1吉瓦,唯一办法是把这一吉瓦卖给超大规模云厂商,再由其去债市融资,但这些算力没有一点能进入面向整个行业的市场 [8] - 明年已签约算力中约65%至70%流向超大规模云厂商和AI实验室,创业公司租集群要先付一半,三到九个月后才能交付 [8] - 英伟达已托底约6.5吉瓦算力,这部分会卖给开放市场而非只供实验室和超大规模云厂商,上限为45吉瓦,即便如此也只占2030年前新增算力的很小一部分 [8] - Fireworks、Modal等做推理的公司以及不少新实验室正转向自建集群,拿贷款、找英伟达背书 [8] 英伟达托底模式 - SoftBank Energy模式只担保土地、电力和厂房,俄亥俄州一座9吉瓦设施约2030年投运,全部预留给OpenAI [10] - Firmus模式为英伟达承诺按某价格租下集群,使对方不赚钱但也不亏钱,有了这份保证别人就愿意放贷,超出该价格的每一美元每小时英伟达拿走一半 [10] - 残值担保模式仅提及存在,未展开 [10] 行业规模判断 - 几家提供商加起来每天处理超过100万亿token,各家年化收入都在攀升 [9]