行业趋势与战略合作 - NVIDIA执行长黄仁勋访韩，与三星电子和现代汽车集团会面，旨在加深在记忆体和AI超级工厂领域的合作 [2] - 行业专家指出，AI时代的主导权正从GPU转向记忆体，记忆体对于AI领域的重要性日益提升 [2] - 为解决AI推理阶段的记忆体瓶颈，国际大厂正寻求解决方案，记忆体在GPU封装内的价值贡献和技术难度越来越高 [3] 潜在并购与市场动态 - 为确保AI领域领导地位，NVIDIA可能并购记忆体公司，潜在目标包括美光或SanDisk，而非规模较大的三星或SK海力士 [2] - SanDisk股价在五天内上涨4.3%，达到199.33美元，部分原因是数据中心对NAND Flash需求增加 [2] AI推理与记忆体技术 - AI推理面临三大问题：输入内容过长导致“推不动”、回应速度“推得慢”、运算成本“推得贵” [4] - AI推理阶段采用类似人脑的“注意力机制”，并利用“KV快取”作为AI模型的短期记忆，以提升处理速度并避免重复计算 [5] - 记忆体需求分为三个层次：HBM用于储存实时记忆数据，容量为10GB至百GB级；DRAM作为短期记忆，容量为百GB至TB级；SSD用于长期记忆，容量为TB级到PB级 [4]