文章核心观点 - AI已越过“有用”的拐点，正从训练转向推理、智能体与物理AI，算力需求将进入复合式指数增长 [1] - 英伟达已不再是芯片公司，而是AI基础设施公司，真正的瓶颈正从芯片转向电力、土地、审批和建设 [1] - 安全与能力必须同步加速，英伟达的护城河因通用性、生态和总体拥有成本而继续扩大 [1] - 黄仁勋以99.99%的信心看多未来十年，认为人类韧性、卓越人才和绝大多数人心向美好将共同推动目标实现 [12][57] 推理算力将增长10亿倍 - 思考和解决问题所消耗的推理计算远多于重复或复述记忆内容，AI需要检索事实、检验约束、多路径规划、反思剪枝、迭代选择，这些都会消耗庞大算力 [3] - AI一旦创造实质生产力就会被雇佣去做更多工作，形成“算力消耗增加+使用规模扩大”的复合效应 [3] - 推理算力将增长10亿倍，因为思考和解决问题所消耗的推理计算远多于重复或复述记忆中的内容 [20] - 大多数有意义任务需要一步一步进行逻辑推理，提出多种选项并制定计划，推演各种路径分别会产生什么结果，随后反思最佳路径并剪枝舍弃其余部分，如此循环往复 [21] - 由于AI能创造实质生产力，公司会将其应用于更多领域，这两者形成复合效应 [21] 两大技术突破：记忆机制与工具调用 - 记忆机制使模型拥有工作记忆、短期与长期记忆、离线知识提取和知识图谱构建能力 [4] - 工具调用让AI学会使用人类最重要的工具，如Verilog、模拟器、设计编译器、Photoshop、AutoCAD、CATIA、西门子工具等 [4] - AI接入企业专有数据和工具后，最先爆发的领域是写代码，随后是设计、创意营销和科学领域 [4] - Astra可将照片重构为CAD模型，显著提升原型构建效率 [4] - 为大语言模型加上外骨骼或调度系统，使其能够管理工作记忆和知识体系，模型现在也拥有了工作记忆、离线知识提取以及知识图谱构建能力 [22] - 教会AI使用人类创造的最重要工具，各类模拟器、设计编译器、Photoshop、AutoCAD、达索CATIA以及西门子的全套工具都依然有用 [22] - 将包裹在外骨骼或调度系统里的大语言模型引入企业内部，连接到现有的专有数据和事实库，连接到它们可以调用的工具，AI开始展现出惊人的生产力 [22] - 最容易切入的领域是编写代码，这是通向实际价值的第一个入口 [22] - 接下来的突破口是设计工作和大量创意营销工作，Astra能直接将照片重构为CAD模型，完成最初的原型构建 [23] 智能成本下降与杰文斯悖论 - 智能成本将快速下降，GPT-1级别训练成本从约2000万美元降至1000美元甚至100美元 [5] - 模型参数从3万亿到10万亿、30万亿，使用规模十年增长上百万倍 [5] - 成本下降不会减少总需求，反而会释放更大消耗，形成杰文斯悖论，人类对智能的需求永无止境 [5] - 智能的成本将以极快的速度下降，更多算力正在上线，模型也变得更加聪明，两者结合必然导致智能成本大幅下降 [24] - 回顾过去三十多年，计算成本每年都在减半，公司同样希望智能成本每年下降到二分之一甚至二十分之一，因为对智能的消耗增长将远远弥补这一降幅 [24] - 世界上存在着一片巨大的空白市场和机遇真空，正等待被填补，只需把成本降下来 [27] - 最早的GPT训练成本假定大概是2000万美元，如果现在要训练一个GPT-1，大概只需要1000美元甚至100美元，从1000万或2000万美元降到了100美元，公司在10年内做到了这一点 [28] - 现在训练的模型参数达到了3万亿、10万亿乃至30万亿，这10年间对它的使用规模增长了上百万倍 [28] - 人类对智能的需求是永无止境的，越聪明、越有智慧，运用智能的想法就越多 [28] 物理AI是下一个千亿美元级市场 - 物理AI是英伟达增长最快的板块之一，前年50亿美元，去年100亿美元，今年上半年已达100亿美元 [6] - 物理AI需要三台计算机：训练系统、Omniverse数字孪生仿真系统、机器人/汽车/手术器械中的边缘计算机 [6] - 英伟达是唯一在每一层都打造完整技术栈的公司，未来每一家汽车公司、货运物流公司、电信公司都将成为AI科技公司 [6] - 物理AI本质上就是与物理世界进行交互的AI，可以是光子计数CT机、超声设备、新型成像雷达、下一代5G网络，还包括机器人、自动驾驶汽车、制造系统和视觉质检，以及对地球进行成像并重建为三维模型的地球空间卫星 [29] - 英伟达是全球最大的物理AI公司，今年上半年营收达到100亿美元，去年全年也是100亿美元，再往前一年是50亿美元，1000亿美元可能确实仍属保守 [30] - 所有对人类至关重要的事情最终都会落实到物理世界，把软件、计算和智能注入过去主要依赖机械与电气的传统行业，蕴藏着巨大的市场空间 [30] - 未来每一家汽车公司都会是科技公司，每一家货运物流公司都会是科技公司，每一个触及物理世界的行业都有通过AI进行重塑的巨大空间 [30] - 构建一个物理AI平台通常需要三台计算机：一台计算机来创造大脑即训练系统，必须构建一个互联网的数字孪生体即Omniverse，然后再将其部署到第三台计算机中即机器人、汽车或手术器械内部的边缘计算机 [31] - 英伟达为每一层都打造了完整的技术栈，是全球唯一能够做到这一点的公司 [31] 安全与保障：零信任+带外监控 - 黄仁勋反对“完美对齐才能安全”的思路，正确做法是零信任、物理遏制、最小权限、随了解逐步扩大边界，并采用带外独立监控，必要时干预或断电 [7] - OpenShelf架构已有超过100家公司加入，安全、保障、功能、能力处于同一优先级 [7] - 美国“赢”意味着所有行业、企业和公民都赢，否则AI产业本身将不复存在，三足安全框架切实可行，应迅速行动而非陷入完美主义争论 [7] - 首要前提就是负责任地构建技术，构建是一个工程词汇，关乎技术与工程 [32] - 对齐是一个永恒的问题，如果必须依赖完美对齐才能保证安全，那永远也无法达成目标，正确的解法是首先从物理遏制开始，一切从零信任开始 [32] - 在零信任机制下给予最小权限，随着了解的加深再逐步扩大边界 [33] - 监控必须是带外的独立系统，必须能够敏锐察觉自主系统是否存在违背既定策略或脱离对齐的行为，一旦发现有权上报干预或直接断电关机 [33] - 安全与保障技术本就是AI不可分割的一部分，必须加速安全技术的发展，必须加速保障技术的发展，它们必须同步加速演进 [33] - 功能、能力、安全、保障完全处于同一优先级，全都是头等大事 [34] - 美国的胜利意味着美国的每一个行业都在赢，每一个企业都赢，每一个公民都赢，如果只是技术本身赢了却没有人去使用它，那就根本谈不上赢 [34] - 通往未来最好的方式就是迅速采取行动，三足框架切实可行、具体明确且具备实际约束力 [35] 基建瓶颈：土地、电力、审批与工人 - 需求远大于供给，瓶颈不是芯片，而是土地审批、发电并网、建筑工人、机电安装和管道工 [8] - 明年新增43GW AI算力面临物理限制，2GW项目对应约800亿美元价值 [8] - 英伟达每吉瓦采购价值从180亿-200亿美元升至400亿美元以上，主流云厂商资本支出中英伟达占约40%，非主流云厂商占约80% [8] - 能效最高、每瓦Token最多，使英伟达在电力受限时更具优势 [8] - 需求绝对存在甚至只多不少，挑战在于物理世界中的重重阻碍：土地审批、新增发电能力的并网接入，以及大量的建筑工人、机电安装工、管道工等各类人员 [36] - 单是建造这些设施就能创造100万个新就业岗位，土地、电力和厂房以及建设配套资源将是达成这一目标最主要的瓶颈所在 [36] - 英伟达是唯一一家服务于全球所有云服务商的公司，同时服务于所有新型云服务商，并通过戴尔、惠普、联想等合作伙伴开展庞大的企业级业务 [36] - 英伟达是面向全球的基础设施提供商，在欧洲、非洲、中亚、东南亚、拉美、中东等地都有了早期布局 [37] - 英伟达架构的能效产出是最高的，每瓦特产生的Token数量最多，当全球可用的电力瓦数受到限制，用户的选择自然会转向生产效率最高的版本 [37] - 每吉瓦算力中所能提供的采购价值从过去的约180亿美元、200多亿美元一路攀升到现在的400多亿美元以上 [37] - 在全球主流云服务商中英伟达占比大概在40%左右，在非主流云服务商领域占比可能达到80%，两部分都在以每年翻倍的速度增长 [38] - 2GW对应大约800亿美元的价值规模 [39] - 基板正变得越来越大，上面的芯片也越来越多，硅光子同样面临供应受限，实际上所有环节都处于供应受限的状态 [39] - 尽管在不断提高供应能力，订单量却增长得更快，在未来几年内这个供需缺口将很难弥合 [39] 需求结构被严重误读 - 英伟达全球AI基础设施收入份额约80%，需求分三大板块 [9] - 基础算力占约三分之一，年增30%-40% [9] - AI实验室约占四分之一，外界只盯两家，实际有五六家 [9] - 新兴初创与下一代云平台占约三分之一，其中80%使用开源模型 [9] - 只盯OpenAI和Anthropic判断整个基建需求，是严重认知误区 [9] - 第一板块是基础算力，用于常规数据处理、分子动力学、物理模拟、核聚变与核裂变模拟、量子化学、量子物理以及计算机图形学等等，占到业务的三分之一，每年还在以30%至40%的速度增长 [42] - 第二部分是AI实验室，外界往往只盯着其中两家，但英伟达与每一家都有合作，Meta表现极佳且绝大部分采用英伟达算力，Grok在三年前根本不存在，Gemini现在在英伟达上运行，今年又开始与Anthropic展开合作 [43] - 第三部分是新兴初创企业，跨越各行各业新成立的公司数以千计，他们租用英伟达的算力，这三分之一的业务相当于下一代的云计算平台 [43] - 仅盯着一两家公司并认为整个基础设施全靠它们来买单，是一个极其严重的认知误区 [44] - 开源模型方面，所有这些初创企业其中80%都在使用开源模型，而且它们并不是拿开源模型去和前沿大模型实验室竞争，而是用来开拓其他领域的全新机会 [44] - 通用的闭源实验室将走向通用人工智能并做到极致，而所有这些深耕特定垂直领域的公司依托极为私密的专有数据，训练模型完成非常特定的任务，从而在垂直赛道达成超级智能 [44] 宏观资本开支与摩尔定律终结 - 2020年代末基础设施年建设规模接近4万亿美元，其中算力约1.5万亿美元 [10] - 摩尔定律已终结，晶体管翻倍不再免费，而需支付双倍成本 [10] - 生成式计算时代年建设规模将达3万亿-5万亿美元，未来每年10万亿美元也不意外 [10] - 在2020年代结束之际，基础设施的年度建设规模可能会达到每年3万亿至4万亿美元，现在看来显然更接近4万亿而非3万亿美元 [46] - 在AI爆发之前，单纯的计算硬件支出就已经是每年5000亿美元了，如果在六七年间它增长到了1.5万亿美元，那只是因为全社会对计算的消耗量大幅增加 [46] - 摩尔定律已经终结，过去如果想获得两倍的晶体管只需等待一年价格保持不变，但现在要想获得两倍的晶体管无论等多久都必须付出双倍的价钱 [46] - 全球每年对算力的增量需求，只要想翻倍就必须支付两倍的资金，即便没有AI，半导体产业本身也正在成为全球最大的产业 [46] - 以往全球云服务提供商的年投资规模大约在5000亿美元左右，而整个世界每年的IT基础设施建设投入约为1万亿美元 [47] - 在全新的生成式计算时代，随着时间推移跨入下一个十年，年建设规模将达到3万亿、4万亿甚至5万亿美元，如果未来每年用于新建与更新换代的基础设施年投资额达到约10万亿美元，完全不会感到意外 [47] 护城河与商业模式 - 护城河在扩大，核心是通用互换性、低风险、持久耐用、可租赁性、可融资性和最低TCO [11] - 专用化是通用互换性和持久耐用性的死敌 [11] - 台积电可提前五年规划，是唯一能匹配英伟达节奏的代工伙伴 [11] - 新增长曲线包括软件授权，每颗GPU每年几千美元，年出货2000万颗，一半进入企业端 [11] - 营收分成，投资云厂商，获得硬件销售加持续分成 [11] - 回购超过50%自由现金流，上季度达60%以上 [11] - 像英伟达这样体量的公司还能继续扩大市场份额，这本身就说明了业务的韧性以及优势的体量与规模 [48] - 护城河在扩大，如果必须向某人开出一张1000亿美元的支票为下一代产品下采购订单，因为英伟达制造就知道它肯定会比Vera Rubin更好 [48] - 英伟达把100%的代工业务交给台积电，因为他们是全球唯一一家能提前五年制定规划的公司 [49] - 英伟达正在为整个地球构建基础设施，已经成为一家基础设施公司 [49] - 可以投入500亿美元建设一座数据中心，并深知这些算力资产具备高度通用性与可替代性，在工作负载上可通用，在模型架构上可通用，在跨客户迁移上可通用，并且可以部署在全球任何地方 [50] - 英伟达坚持走通用路线的原因正是为了获得全部的通用互换性，通用互换性的优势在于风险极低 [50] - 专用化是通用互换性的死敌，也是持久耐用性的死敌 [50] - 通用互换性与持久耐用性就能转化为极高的可租赁性，进而转化为极高的生产力，因此也就带来了可融资性，并最终转化为生产力，实现最低的总体拥有成本 [51] - 第一种是软件授权许可，公司拥有的软件储备规模惊人，对于云服务提供商以开源方式向其授权软件，但对于全球大多数企业而言需要由英伟达来维护 [53] - 面向企业市场的软件授权业务规模将极其庞大，如果软件授权费每颗GPU每年只需几千美元，而部署了数百万颗GPU，假设一年出货2000万颗GPU，其中一半进入全球企业端，这笔收入累积起来将非常可观 [53] - 第二种是营收分成模式，还有一些云厂商高度依赖英伟达的全栈方案，依赖承销能力与生态体系，也依赖作为投资伙伴协助他们获得融资和资本 [54] - 在这样的合作关系中，英伟达很可能会转向营收分成模式，将进行投资，不仅能获得前期的硬件销售收益，还能在未来持续享受营收分成 [54] - 这两种新增长曲线完全独立于硬件销售，更多依托于平台的庞大装机量 [54] - 公司之前说是50%，上个季度实际做到了约60%以上，随着现金流的增长还会进一步加大回购力度 [55] - 英伟达处于生态系统的核心，处于信息流的关键枢纽，结识了无数极具才华的人，当他们立志成就一番伟业时，公司渴望全力支持他们 [55] - 这些投资占总现金流的比例将迅速下降，一方面是因为像OpenAI和Anthropic这样的时代机遇坦率地说不会再出现第二次，另一方面是因为现金流增长速度极其迅猛 [55] 订单与信心 - 积压订单极其庞大，所有云厂商、整机厂、初创和企业都在下单 [12] - 配额远低于客户诉求，瓶颈在下游土地、电力和厂房 [12] - 黄仁勋对五年后达成目标有99.99%信心，认为人类韧性、卓越人才和绝大多数人心向美好，将共同推动目标实现 [12] - 积压的订单极其庞大，每一家主流云服务商、每一家新型云、每一家整机制造厂商都在下单，初创企业、大企业、小企业全都下了订单 [56] - 根据客户规模按照至少一年、大客户提前两年的预测与他们紧密配合，在手订单规模极其惊人 [56] - 能分给每位客户的配额远低于他们的实际诉求，自那之后几乎每天、每周都还在源源不断地收到新订单 [56] - 目前限制的一部分瓶颈在于下游的土地、电力和厂房 [56] - 有99.99%的信心，有太多人无比深切地关切着能够走向美好的结局，会倾尽全部力量、智慧和资源，确保以负责任和乐观的方式达成目标 [57] - 有太多的人在做着正确的事情，不能仅仅因为别人没有高调宣扬就认为没有聪明人在做明智的事情 [58] - 即使没有领导没有战略规划，公司本身也在自主地做着明智的事情，聪明人自然会做明智的事 [58] - 当身边围绕着杰出的人才并创造出让所有人都渴望实现相同良好愿景的环境时，奇迹就会发生，而绝大多数人都是心向美好的 [58] - 在全世界这么多卓越人才的共同努力下，有99.99%的把握一定能携手达成这一目标 [58] 埃隆、SpaceX与太空算力 - 过去在财报图表中埃隆相关的业务被归在企业级业务项下，现在他已经属于云服务商类别 [40] - 埃隆将英伟达技术用于自身AI的模型训练与部署等环节，Grok的表现极其出色，与此同时他也对外出租算力 [40] - 将模型训练、自有应用与算力出租这三者结合起来，埃隆在这方面相当独特，他的优势还在于热衷于计算与物理工程建设的交叉领域，没有人比他更懂能源 [40] - 两家公司将共同探索一个全新的市场，将数据中心送入太空，目前两家公司的工程团队正在极其紧密地合作，打造一种可能兼顾太空与地面极佳运行表现的新型服务器架构 [40] - 唯有英伟达算力能够做到将数据中心送入太空，原因在于英伟达的单位能耗性能是全球最优的，最核心的在于英伟达算