Workflow
Distributed Intelligence
icon
搜索文档
Nvidia's Huang, Michael Dell on Agentic AI, Memory Demand and China
Youtube· 2026-05-19 03:40
AI从评估测试转向生产应用 - 英伟达观察到客户使用AI的方式正从测试评估转向实际生产应用[1] - 公司展示了与礼来、三星等世界级企业在物理世界中的合作案例,表明AI应用已超越屏幕范畴[2] - AI技术正在全球所有客户、行业和国家中广泛传播[2] 企业级AI工厂与本地部署趋势 - 对于礼来、三星等制造企业,AI代理需要在本地部署(on-prem),因为企业的核心数据、安全数据和专有数据都存储在本地[5] - 戴尔获得了1000名新客户,这些客户希望建立自己的本地AI工厂[6] - 生成式AI已彻底重塑计算范式,企业重新设计工作流程后可能获得10倍、20倍甚至100倍的效率提升,而非10%-30%的渐进改善[7] 英伟达全栈AI技术平台 - 英伟达构建了完整的AI技术栈:包括Grace Blackwell超级芯片(用于训练720亿参数大语言模型的大脑)、Vera CPU(高性能AI CPU)以及将大脑转化为可工作代理的“ harness ”系统[11][12] - 与戴尔合作创建了新型AI代理长期记忆系统——戴尔AI数据平台,该平台基于英伟达技术构建[13] - 整个系统还包括基于英伟达的网络扩展技术以及运行在安全容器(Open Shell)中的代理运行时环境Nemo crawl[13] CPU需求因AI代理而激增 - 随着企业内部AI代理框架的普及,CPU的使用量将大幅增加[15] - 未来将有数百亿AI代理持续工作,它们将像人类使用工具一样频繁且快速地使用工具,从而需要更多CPU[16] - 这些CPU将与GPU大脑连接,使CPU具备思考、推理、规划和使用工具的能力[16] 供应链挑战与产能扩张 - 目前最大的供应链约束在于内存和高阶半导体[17] - 尽管半导体供应链正在扩张,但需求增长速度超过了供应[18] - 英伟达拥有全球最大的供应链,并与合作伙伴提前2-3年规划,确保了HBM内存、Grace Blackwell芯片、CPU、硅光子等所有组件的协同供应[18][19] - 全球总产能仍无法满足巨大的需求[20] 内存市场结构性转变 - 传统内存市场具有周期性(繁荣与萧条交替),但当前AI驱动的需求代表了一种彻底的市场结构变革[21] - 英伟达多年前已向美光、SK海力士等内存供应商传达行业愿景,以促使他们为未来需求建设产能[22][23] - AI代理可被视为数字工作者,未来将有数十亿这样的代理7x24小时工作,每个代理都需要配备计算和存储资源,这将持续驱动对计算和内存的需求[24] 中国市场与监管环境 - H200芯片已获得向中国销售的许可证[31] - 中国政府对AI需求巨大,生成式AI在中国也取得巨大进展,预计市场将逐步开放[32] - 中国高层领导人表达了进一步开放市场的意愿[33] - 英伟达在中国有业务,并遵守所有限制和管控规定[36] 供应链多元化与地缘政治 - 台湾仍是全球技术和制造中心,供应链在台湾非常完善[39] - 同时,美国正在推动制造业回流,正在建设更多的芯片工厂、封装厂和AI工厂[40] - 目标是实现供应链的多样性和韧性,台湾将继续是全球技术中心之一[41] PC在AI时代的新角色 - PC仍然是知识生产力的核心设备,并且正在进化,开始嵌入运行小型本地AI模型的能力[43] - 客户因需要处理混合AI任务而要求更强大的PC[44] - 个人AI(Personal AI)的时代正在开启,AI需要运行在上下文所在的位置,无论是个人笔记本电脑、工厂还是医院[47][48]