文章核心观点 - 谷歌发布的TurboQuant技术虽然旨在压缩大语言模型以减少内存占用 但分析认为该技术将推动更大规模模型的训练 从而可能增加而非减少对内存芯片的长期需求 并可能使美光科技、闪迪、希捷科技等内存制造商受益 [1][2][3][4][5] 技术分析 - TurboQuant是一种模型压缩方法 能在不损失精度的情况下缩小大语言模型的大小 [1] - 该技术通过减少训练大语言模型所需的内存大小来实现 主要目标是降低因内存芯片短缺而不断膨胀的内存成本 [2] - 该技术的实际应用效果尚待观察 但即使成功并获广泛采用 预计也将增加内存需求 因为它消除了大规模模型训练的一个瓶颈 [5] 行业趋势与数据 - 大语言模型的参数量呈指数级增长 最大模型参数量从2019年的0.09亿个激增至2022年的5400亿个 [6] - 最新的LLM训练参数量已超过1万亿 一些流行模型甚至超过5000亿个参数 [7] - 高德纳预测 由于芯片成本降低、利用率提高及更具成本效益芯片的使用 到2030年 在具有1万亿参数的LLM上运行推理应用的成本可能比去年降低90% [7] 市场反应与影响 - 谷歌发布研究成果后 美光科技、闪迪、希捷科技等内存制造商的股价大幅下跌 因投资者担忧由有利供需环境推动的收入和盈利增长可能因谷歌算法而枯竭 [2][3] - 深入分析表明 TurboQuant可能反而增强上述三只股票的前景 因其可能通过促进更大、更强模型的发展来增加内存需求 [3][4]