AI基础设施瓶颈的转移 - AI系统的核心瓶颈正从以计算为中心转向以内存与数据移动为中心，从GPU算力革命进入内存架构革命阶段 [5] - AI推理阶段吞噬内存的主要是KV Cache，而非模型本体，长上下文、多智能体、高并发等趋势导致KV Cache爆炸式增长，可膨胀至数百GB甚至TB级别 [8][9][10] - HBM虽快但成本极高、功耗高、容量扩展困难，导致AI系统被迫进入分层内存时代 [11][12][13] 内存架构革命与CXL - CXL是行业共同推行的开放标准，核心使命是解决全行业共同的内存墙问题，降低AI商业化落地的成本下限 [18] - CXL带来了内存池化的关键概念，允许不同厂商的CPU、GPU动态共享一个巨大的外部内存池，实现资源的灵活支取和按需分配 [19] - CXL与英伟达的NVLink定位不同，NVLink是封闭的私家解决方案，解决算力上限；CXL是开放的通用网络，解决成本下限 [17] 算法压缩与硬件池化的协同 - 以DeepSeek v4为代表的算法压缩，通过MLA架构可将KV Cache显存占用降低80%到90% [20] - 算法压缩与CXL硬件池化并非互斥，而是互补关系：算法负责向内压缩以“节流”，CXL负责向外池化以“开源” [21] - 即使经过算法压缩，在超长上下文和高并发场景下，剩余的内存需求仍可能撑爆单机HBM，且GPU间闲置内存无法共享，因此需要硬件池化 [21] CPU角色的结构性重估 - 在CXL内存池化时代，CPU的重要性被史诗级重估，其角色从边缘化转变为统御庞大内存池的“神经中枢”和“总调度交警” [23][24] - CPU负责执行极其复杂的内存编排调度和多租户一致性管理，这是GPU无法胜任的 [24] - 算法压缩使得部分KV Cache可下放至由CPU掌控的DDR5/CXL内存池中，CPU负责极速调取和维护上下文 [24] 1. 在CPU架构层面，ARM正全面压倒x86，因其在能效比和定制化方面的优势更符合AI机柜高功耗和云巨头自研的需求 [25] 产业链关键投资节点 - **Retimer（高速信号修复芯片）**：随着PCIe 5.0/6.0和CXL传输速度翻倍，成为机架级AI服务器中绕不开的物理标配，核心公司包括Astera Labs和Credo Technology [27][33] - **CXL Switch（内存交换机）**：实现GPU与动态内存织物连接的关键，是硬件链条中溢价最高、壁垒最深的环节，核心公司包括博通和Marvell [28][34] - **被重估的CPU层**：投资逻辑从单核算力转向I/O通道数、低功耗及内存调度效率，相关公司包括ARM、AMD、Intel，以及定制化推手世芯电子、Marvell、博通 [29][35] - **内存控制器与编排软件**：高效调度共享内存的软件生态是建立护城河的关键，核心公司包括Rambus，生态玩家包括能研发底层内存管理软件栈的科技巨头 [30][31][36] 行业趋势与市场表现 - 存储芯片市场出现疯狂暴涨，例如美光科技过去12个月股价上涨700%，市值突破8400亿美元；西部数据一年内暴涨900%；闪迪上涨3300% [6] - 英伟达的产品战略从单纯强调FLOPS转向重视Data Movement，其Grace-Blackwell架构及提出的POD-wide context memory标志着AI基础设施向以上下文为中心转变 [14][16] - 未来的AI基础设施竞争，核心是管理Context Memory的能力，利润池将向“数据搬运”环节迁移 [26][32]