行业与公司 * 行业为人工智能数据中心硬件与网络设备[1][3] * 会议是与Scale AI的数据科学家Sri Kanajan进行的专家讨论 聚焦于AI数据中心的扩展[1] 核心观点与论据 **资本支出向推理计算转移** * 计算资本支出向推理转移的速度快于预期 蒸馏、思维链和多步技术以及推理时优化带来了更大的近期收益 而训练工作的回报正在递减[3] * 专家预计增量计算资源用于推理的份额将在约2027年超过训练 2025-2026年已出现向推理的混合支出[3] * 运营商因成本、供应商广度和更容易扩容而越来越倾向于为推理工作负载使用以太网 同时将InfiniBand集中在训练集群所需的地方[3] **模型效率与成本权衡** * 企业正从使用最大/最好的模型转向通过量化和蒸馏微调更小的模型 愿意为推理工作负载相关成本的大幅降低而接受轻微的质量折衷[3] * 更多AI解决方案正与向量数据库、上下文检索、工作流级集成和实时数据访问一起部署 以释放全部投资回报率[3] **硬件与网络标准化** * 在推理相关网络中出现硬件标准化 训练仍由NVLink和InfiniBand主导 而对于推理ASIC 以太网/PCIe和UALink/UEC正获得份额[3] * 专家预计明年将有更多机架级标准化 白牌服务器势头通过OCP计划扩大 Celestica正在推动较低性能级别交换机的标准化 而Arista的交换机仍受青睐于极高性能场景[3] * 对于超过1.6T的速率 可能需要共封装光学器件 而在400G/800G速率下 许多运营商仍可使用可插拔光学器件满足需求[3] **约束条件从GPU供应转向电力** * GPU交付时间已显著缩短 高带宽内存仍然紧张 但整体供应正在改善 主要约束是电网供电和场地能源 许多数据中心因无法获得足够电力而未充分利用[3] * 这种情况有利于推理 因为训练所需的电力高出数个量级（专家表述为超过5-10倍）且需要同步、同地计算 绝大多数训练仍在单个数据中心内进行[3][4] * 推理通过缓存、嵌入和边缘友好数据存储将计算分区跨服务器或集群 能更好地容忍跨地域扩展[4] **GPU资产寿命与存储架构** * GPU资产寿命正在变长 买家现在计划GPU使用寿命为五到六年 高于之前的大约四年 随着新一代GPU上市 资产从训练转移到较低优先级训练任务 再到推理 最后到内部工作负载[5] * 存储继续是混合决策 HDD在成本上仍保持领先 闪存主导训练和密集型推理需求 而硬盘仍适用于不常访问的数据集、日志记录和嵌入 其中每太字节成本至关重要[5] * HDD方面的进步 包括HAMR技术 正在帮助HDD在闪存使用扩大的情况下保持成本领先地位[5] 其他重要内容 **潜在受益公司** * Broadcom被视为向推理转移的主要受益者 因其在定制ASIC方面的工作 包括与Google、亚马逊和Meta的合作[5] * Marvell也应受益于更标准化的推理工作负载和集群更倾向于以太网/PCIe而非NVLink/InfiniBand[5] * Celestica可能随着白牌服务器在OCP设计中的广泛采用而扩大份额[5] * Arista将继续主导最高性能的训练网络 但向推理中以太网的混合转移可能会驱动更广泛的受益领域[5] **分析师覆盖范围** * 报告作者Samik Chatterjee覆盖的股票包括Arista、Celestica等多家硬件与网络公司[10]

行业与公司 - 行业：AI Networking（人工智能网络） - 公司：650 Group（行业研究机构）、J P Morgan（投资银行）[1] 核心观点与论据 1. **AI Networking市场增长** - 2024年AI Networking总市场规模（TAM）为150亿美元，预计2029年增长至650亿美元，年复合增长率（CAGR）为34%[1] - 增长动力来自前端（front-end）和后端（back-end）收入的同步增长，其中后端收入增长同样强劲[1] 2. **Scale-up AI Networking的快速增长** - 2024年Scale-up AI Networking市场规模为4亿美元，预计2029年增长至210亿美元，CAGR为123%[3] - 2029年Scale-up收入将占后端AI总收入的43%（2024年仅占3%）[3][6] - 长期来看（2030年后），Scale-up收入预计将超过Scale-out，主要受多机架技术（multi-rack）和硅光子学（silicon photonics）等高带宽技术推动[6] 3. **Scale-out AI Networking的稳健增长** - 2024年Scale-out收入为117亿美元，预计2029年增长至288亿美元，CAGR为20%[3] - 以太网（Ethernet）将成为Scale-out市场的主导技术，而Infiniband增长有限[15] 4. **技术趋势：以太网的普及** - **Merchant ASICs**（如Nvidia GPU、AMD和Intel产品）：预计从2024年的440万单位增长至2029年的1190万单位，CAGR为22%，未来将转向以太网连接[9] - **Custom ASICs**（如Google TPU、Amazon Trainium）：预计从2024年的500万单位增长至2029年的1070万单位，CAGR为17%，新架构（如Meta MTIA、Microsoft Maia）将直接采用以太网[9] - NVLink目前占据Scale-up市场的96%份额，但预计2029年份额降至63%，以太网份额将从0%提升至31%[11] 5. **市场机会与风险** - 以太网供应商因在Scale-up和Scale-out市场的双重增长而处于有利地位[15] - NVLink的垂直整合可能限制灵活性，而以太网因操作简单性和多厂商互操作性成为未来首选[11] 其他重要内容 - 数据单位：市场规模以十亿美元（$ in Billions）为单位[2][7] - 图表引用：包括AI Networking市场分前端/后端收入（Figure 1）、Scale-up/Scale-out后端市场（Figure 2）、Merchant/Custom ASICs（Figure 3）、Scale-up技术分布（Figure 4）等[5][8][10][12][16] - 免责声明：J P Morgan与研究对象存在业务关系，可能影响报告客观性[4]

纪要涉及的行业或者公司 - **行业**：硬件与网络、IT硬件/电信与网络设备 [1][4] - **公司**：Google、Celestica、Flex、Arista、Amphenol、Ciena、Coherent、Jabil、Lumentum、Amphenol、Apple、CDW、Calix、Cisco、CommScope、Corning、Dell Technologies、F5 Inc、Fabrinet、HP Inc、Hewlett Packard Enterprise、Ingram Micro、Jamf、Keysight Technologies、Logitech International、Mobileye、NetApp、Nutanix、Penguin Solutions、Pure Storage、Qualcomm、Sensata、Stratasys、Super Micro、TE Connectivity、Teradyne、Wolfspeed Inc、Xerox Holdings Corp [1][9] 纪要提到的核心观点和论据 - **核心观点**：Google在2025年第二季度资本支出数据强劲，提高全年展望，预计美国其他超大规模云计算服务提供商也会有类似支出趋势，对涉及人工智能基础设施支出的公司财务预期上调 [1] - **论据** - Google 2025年第二季度资本支出环比增长31%，同比增长70%，达到224亿美元，主要用于技术基础设施投资，其中三分之二用于服务器，其余用于数据中心和网络设备 [1] - Google将2025年全年资本支出展望提高到850亿美元，此前为750亿美元，主要由于服务器额外投资、服务器交付时间和数据中心建设加速，以满足客户需求，更新后的展望意味着同比增长60%以上，与2024年63%的增长一致，但绝对美元基础上有所增加 [1] - 展望2026年，由于客户需求和增长机会，管理层暗示资本支出将进一步增加 [1] 其他重要但是可能被忽略的内容 - **分析师覆盖范围**：Chatterjee覆盖Amphenol、Apple等多家公司 [9] - **评级系统**：J.P. Morgan使用Overweight、Neutral、Underweight评级系统，NR为未评级 [8] - **评级分布**：截至2025年7月5日，J.P. Morgan全球股票研究覆盖、IB客户等不同类别下的评级分布情况 [10] - **合规与风险提示**：涉及投资建议不考虑个人情况、投资价值波动、使用人工智能工具、J.P. Morgan交易情况等多方面风险提示，以及不同地区的监管和合规要求 [49] - **地区监管信息**：包含阿根廷、澳大利亚、巴西等多个国家和地区的J.P. Morgan相关实体的监管信息 [25]