AI基础设施投资规模与持续性 - 预计今年AI基础设施支出将超过7000亿美元 这一金额超过除二十多个国家外的全球所有国家的国内生产总值[1] - 尽管有观点认为数据中心基础设施支出即将见顶 但主导支出的公司并未显示出放缓迹象 它们将AI视为一代人一次的机遇 宁愿过度投资也不愿投资不足[2] - 有证据表明AI基础设施超级周期可能比怀疑论者认为的持续更久 例如Alphabet表示其使用了八年的芯片利用率达到100% 而云运营商CoreWeave的Nvidia A100芯片(2020年推出)已全部订满 其部分2022年的H100芯片仍能以原价的95%被预订[3] 领先AI基础设施公司分析 - Nvidia仍是AI基础设施领域的领导者 在AI模型训练方面拥有宽阔的护城河 因为大多数原始基础代码都是在其CUDA软件平台上编写的[5] - 该公司通过产品组合的扩展巩固其领导地位 与Groq的合作使其获得了专为推理设计的语言处理单元 同时它还设计了自己的中央处理单元和数据处理单元 结合其网络产品组合 现在可以为特定AI任务提供端到端的机架解决方案[6] - Advanced Micro Devices在AI模型训练浪潮中 largely missed out 但公司在推理和代理AI领域定位良好 其ROCm软件解决方案得到大幅改进 即将推出的MI450芯片采用小芯片设计 集成了更多内存 特别适合推理任务[7] - AMD与Meta Platforms和OpenAI达成协议 将向它们提供总计6吉瓦功率的GPU 这将成为其收入驱动力[7]