核心观点 - AI的本质是内存，而非GPU，AI能力的竞争最终是内存能力的竞争 [2][5][6] - GPU利用率低下，约90%的时间处于等待数据读写状态，即便优化也难以突破30% [4] - 从AI训练时代转向推理时代，内存的重要性被重新定价，决定AI能力强弱的是内存 [6] AI算力格局与GPU瓶颈 - GPU性能提升因散热限制而陷入“外通死局”，无法像内存一样垂直堆叠，技术性成长已接近停滞 [5][6] - GPU装100万台，真正工作时间仅10% [4] - 未来AI计算机的进化掌握在内存手中 [6] HBM（高带宽内存）的核心价值 - HBM的价值在于两个维度：容量与带宽 [7] - 内存需求正以每年翻倍的速度增长，10年可达1000倍，技术路径从缩小晶体管转向“向上堆叠” [7] - HBM带宽相比传统内存呈指数级增长，从8车道（传统）到1024车道（HBM），现已达2048车道，未来可能达100万车道 [7] 未来内存技术路线 - HBF（高带宽闪存）：将NAND闪存像HBM一样垂直堆叠，用于存储推理场景中的“冷数据”，容量大、可长期保存 [9] - 预判10年后，NAND闪存和HBF的市场需求将超过HBM [9] - 目前开发HBF的公司包括SK海力士、闪迪、三星电子和日本的铠侠 [9] - HBS（高带宽静态随机存储器）：前沿概念，将整张12英寸晶圆做成SRAM并垂直堆叠12至16层，速度比DRAM快约1000倍，容量可从100GB扩展至1600GB [10] - 未来AI芯片的终极形态将是“100层3D大楼”，由HBM、HBF、HBS多层堆叠构成，GPU置于顶层散热 [11] - 3D半导体结构的最大工程挑战是供电与散热，需供应几千安培的电流 [11] HBM产业范式转变 - 从HBM4开始，内存进入“定制HBM”时代，需根据客户架构量身设计，并依赖长期协议 [13] - 供应方开始决定价格，这是范式的转变，AI企业需排队获取高性能HBM [14] - 未来HBM芯片内将集成通信功能，实现“HBM之间相互通话”，进一步抬升内存厂商地位 [14] 主要内存厂商竞争格局 - 全球范围内能同时量产DRAM（HBM）和NAND闪存（HBF）的公司只有三星电子和SK海力士 [15] - 三星与SK海力士被视作拥有引领未来最强大工具的公司 [16] - 预测三星与SK海力士今年合计营业利润500万亿至600万亿韩元是现实的 [16] - 美光、闪迪获得来自英伟达和谷歌的订单分流，构成竞争压力 [16] 终端设备与AI演进的内存需求 - 未来AI PC价格可能达1000万韩元，AI智能手机售价300万至500万韩元，其中内存成本占比极高（手机内存约200万至300万韩元） [17] - AI基础设施与模型的持续进化将驱动内存需求 [18] - 随着Agentic AI（智能体AI）和Physical AI（具身AI）到来，内存使用量将比现在高出约1000倍，进入需要“超级HBM”的时代 [19][20]