文章核心观点 - AI应用从模型训练、聊天式推理走向Agent（智能体）后，数据中心对CPU计算能力的需求将显著提高，CPU在AI计算体系中的占比正从过去相对较小的部分变成不可忽视的组成部分 [1][6] - AI并没有让CPU失去价值，反而正在为CPU创造新的增长空间，数据中心不仅需要更强的AI加速器，还需要更强的通用计算能力以及能够承载智能体运行的整套基础设施 [7] - CPU与GPU、TPU的工作负载都将继续快速增长，随着Agent应用不断扩大，CPU在整个计算体系中的比例将持续提高，但CPU不会取代GPU或TPU [6] Agent时代AI工作方式的变化 - 过去聊天式AI工作流程相对简单，用户提问后模型通过GPU或TPU完成推理并返回答案，整个过程主要依赖AI加速器 [1] - Agent模式下用户提出复杂目标后，AI Agent需将其拆解成多个子任务并分配给不同智能体执行，这些智能体不仅要调用大模型，还需访问API、浏览网站、调用现有应用、编写代码甚至直接运行代码 [2] - Agent的许多工作并非GPU擅长的计算任务，相当一部分需要CPU来完成 [2] Agent工作负载的特殊特征 - AI Agent工作负载具有间歇性高负载特征，Agent可能在接到任务后执行一系列操作，随后等待API返回数据或用户指令，期间可能连续一两天不需要执行任何计算，但任务重新启动时又可能突然产生大量计算需求 [2] - Agent需要长期保留自己的上下文和运行状态，但并不意味着需要持续占用CPU资源 [2] - 传统数据中心CPU通常处理相对持续的计算任务，而Agent时代CPU面对的是大量长期存在、随时可能被唤醒、但大部分时间处于空闲状态的智能体 [2] 基础设施设计的新要求 - 解决CPU在大量智能体之间高效分配计算资源的问题，不能仅依靠增加CPU数量，还需要改变整个基础设施的设计方式 [3] - 重要方向是让AI Agent能够进入休眠状态：当Agent暂时不需要执行任务时，将其上下文和运行状态保存到存储设备中，释放原本占用的CPU资源供其他Agent使用，需要时再从存储中快速恢复 [4] - 这种方式能减少大量智能体长期占用计算资源造成的浪费 [4] - 对存储系统提出新要求：服务器需配备高性能存储设备以便Agent重启时快速恢复状态，软件层面还需新的编排机制负责管理不同Agent的休眠、唤醒和资源分配 [4] - Agent时代的CPU竞争不只是处理器本身的竞争，还涉及CPU、内存、存储以及网络之间的协同 [4] 虚拟化技术的变化 - 谷歌目前采用microVM（轻量级虚拟机）为部署在同一台服务器上的不同Agent提供相互隔离的安全环境 [4] - 传统虚拟机通常需要较多资源，microVM通过精简功能减少运行开销，同时缩小潜在的安全攻击面 [4] - 同样一套硬件，过去可能运行100个传统虚拟机，采用microVM后有可能运行1000个 [4] - 当一台服务器需要同时承载数百甚至数千个Agent时，CPU的核心密度、存储连接方式以及软件编排能力都会受到影响，谷歌希望通过这种方式提高硬件利用率、降低每个Agent的运行成本，同时避免牺牲性能 [5] CPU架构选择 - 谷歌没有给出统一答案，目前Google Cloud同时使用Intel、AMD的x86处理器以及谷歌自研的Arm架构Axion CPU [5] - 不同Agent工作负载对CPU的需求并不相同：处理大量数据的Agent可能需要更高的单核性能以及更大容量的本地SSD，以Web服务为主的应用可能更需要大量CPU核心 [5] - 未来不会只有一种最优CPU架构，关键是根据具体工作负载选择合适的处理器 [5] - 客户对谷歌自研Axion CPU表现出很高兴趣，既包括注重性能的实例也包括注重能效的实例，一些大型客户也开始关注裸金属实例 [5] 行业阶段判断 - AI基础设施正在进入新阶段，过去行业讨论AI算力往往首先想到GPU和TPU，关注模型训练需要多少加速卡、多大规模算力集群以及如何提高GPU利用率 [6] - Agent出现后AI系统需要处理的事情更加复杂，模型推理只是其中一个环节，任务拆解、工具调用、代码执行、数据访问、状态保存以及多个智能体之间的协同都需要底层计算资源支持，CPU的重要性在这个过程中重新凸显 [6]