阿姆达尔定律(Amdahl定律)
搜索文档
黄仁勋150分钟访谈:Agent 是“Token 的 iPhone 时刻”|Jinqiu Select
锦秋集· 2026-03-24 15:24
AI时代的公司核心护城河 - AI时代公司的核心护城河是将技术、生态、组织和基础设施整合成完整系统的能力,而非单一产品[1] - NVIDIA的领先优势体现在从CUDA生态、芯片与机架系统设计、数据中心能力、供应链组织到内部极致协同设计的整套能力[2] NVIDIA的极致协同设计理念 - AI基础设施被定义为“极致协同设计”问题,需同步优化算法、芯片、网络、供电、散热、软件和组织结构[3] - 大规模分布式AI中,阿姆达尔定律重新关键,计算快不等于系统快,网络和调度会迅速成为瓶颈[4] - 公司的竞争轴已从“芯片级”升级到“机架级、Pod级、数据中心级”的工程能力[5] - 电力是主要约束之一,但可通过持续优化“每秒每瓦token数”来对冲[6] - 过去10年计算规模提升了约100万倍,远超传统摩尔定律的线性外推[7] - NVL72与Vera Rubin架构将“超算集成”前移至供应链,制造体系本身成为核心能力[8] - 单机架约含130万个组件,一个Rubin Pod超过万级芯片规模,复杂度已进入工业系统工程范畴[9] AI的扩展定律与前沿趋势 - AI的扩展分为四条:预训练扩展、后训练扩展、测试时扩展、智能体扩展[10] - 推理本质是“思考”,是计算密集型任务,将比预期消耗更多算力[11] - 下一阶段关键不是单个模型能力,而是智能体系统的“可并发复制能力”[12] - OpenClaw对智能体系统的意义,类似ChatGPT对生成式AI的普及意义[13] - 为代理安全提出“2/3权限约束”:访问敏感数据、执行代码、外部通信三者不能同时全部放开[14] NVIDIA的组织架构与管理哲学 - 公司CEO拥有60多个直接汇报对象,刻意构建“高密度信息流”组织,而非传统金字塔管理[17] - 组织设计围绕“极致协同设计”,所有对话均为集体讨论,无一对一交流,确保跨领域专家高强度协作[30][31] - 公司架构设计应反映其环境,目标是成为能产生系统性输出的机制[26] - 管理团队通过共同推理来塑造信念体系,确保重大决策(如收购Mellanox、全力投入深度学习)时团队已充分理解[60] NVIDIA的发展路径与战略决策 - 公司从加速器公司起步,但意识到狭窄应用领域限制市场规模和研发能力,必须拓展为计算平台公司[36][37] - 关键战略步骤包括:发明可编程像素着色器、在着色器中引入符合IEEE标准的FP32、引入C语言并最终发展出CUDA[41] - 将CUDA应用于GeForce是接近生存威胁的战略决策,虽大幅增加成本、吞噬毛利并导致市值从约70亿美元跌至15亿美元左右,但为CUDA生态奠定了基础[42][50][51] - 该决策使CUDA通过数亿块GeForce GPU建立了庞大的用户安装基数,这是计算平台架构最重要的部分[47][48] - 公司市值曾因CUDA投入而大幅回撤,但GeForce将CUDA带给所有人,最终成为平台和深度学习革命的基础[52][54] 算力、功耗与供应链 - AI智能提升的最终依赖是计算,预训练、后训练、测试时和智能体扩展均受计算能力限制[66][67] - 功率是约束但非唯一担忧,公司正通过极致协同设计持续优化“每秒每瓦token数”,过去十年已取得显著进步[82] - 公司市场份额在增长,供应链上下游至关重要,需花大量时间向合作伙伴CEO介绍业务动态和增长趋势,以促使其进行资本投资[85] - 供应链复杂度极高,例如单个机架有130万个组件,涉及数百家供应商,但公司通过提前沟通和建立信任来管理,不视其为最大阻碍[90][92][93] - 电网存在电力浪费,公司提议与电网合作,设计可优雅降级的数据中心,在电网需求高峰时减少用电,利用过剩电力[94][96][97] 对中国科技生态的观察 - 全球50%的AI研究人员是中国人,且大部分仍在中国[119] - 中国科技产业诞生于软件时代,工程师对现代软件熟悉,科学和数学教育基础好[119] - 中国内部省份和城市竞争激烈,催生了大量公司(如电动汽车、AI公司),国内竞争环境激烈[119] - 重视家庭、朋友和公司的社会文化促进了知识交流,本质上具有开源特质,工程师间分享迅速,加速了创新[119][120] - 中国被描述为一个“有建设精神的国家”,能够快速创新并涌现世界级成果[120][123] 对开源与生态系统的看法 - 开源有三重动机:共同设计前瞻、促进产业扩散、满足非语言模态(生物/物理/机器人)的创新需求[17] - 开源能让各行各业参与AI革命,如果所有技术都专有,研究和创新将难以开展[129] - 公司开源模型(如Nemotron 3)有助于了解AI模型发展,是深度共同设计策略的一部分,并希望让每个行业、研究人员和国家都能参与AI[129] NVIDIA的核心竞争优势 - 公司最重要的资产是计算平台的安装基础,目前主要是CUDA的安装基础[144] - 安装基础的建立依赖于公司长期坚持发展CUDA,以及数百万开发者的信任与软件移植[144] - 开发者在CUDA上开发可快速获得性能提升(平均等待6个月),并能触及广泛用户、计算机、行业和国家[144][145] - 第二个优势是广泛的生态系统,公司纵向整合复杂系统,并横向融入各合作伙伴的计算机中[148] - 生态系统涵盖谷歌云、亚马逊、Azure、CoreWeave、Nscale等云服务商,以及企业、汽车、机器人、卫星等多个领域[149] 对AI未来与行业影响的展望 - 计算单元从GPU演变为计算机、集群,现在是整个“AI工厂”,未来甚至可能考虑建造“行星级别的计算机”[151][153] - AI数据中心被称为“工厂”,token将出现分层定价与差异化商业化[17] - 计算正从基于检索的系统转变为基于生成的系统,新世界需要更多处理能力[160] - 计算机从存储系统转变为“工厂”,可直接与公司收入挂钩,创造价值[162] - 智能体(Agent)的“iPhone时刻”已经到来,OpenClaw即是标志,token应用处于历史增长最快阶段[169][171][173] - 不认同“程序员消失论”,认为软件工程师数量会增加,因为工作的核心是解决问题而非编码行数[238] - 规格定义能力将成为新的编程核心,未来可能有10亿人具备这种能力,每个职业(如木匠、会计师)都将通过使用AI得到提升[239][241]