Workflow
训练芯片
icon
搜索文档
国内AI算力市场需求——云厂训练和推理投入分配情况解析
傅里叶的猫· 2025-08-24 20:31
国内AI算力训练市场格局 - 训练市场进入下半场和淘汰赛最后阶段 由大厂主导 若无大厂订单支撑可能陷入停滞 [2][3] - 英伟达在训练领域占据主导地位 主流使用B卡 H卡和A卡需求仍存在 [2] - 国内训练需求超过60%由阿里拉动 其次是字节和腾讯 [2] - H公司训练卡效果与英伟达存在较大差距 短期内难以显著提升市场份额 [2] AI六小龙状况及影响 - 六小龙正在大规模退租训练资源 对训练市场造成不良影响 [3] - 六小龙资金状况不容乐观 仍处于争取用户和拓展市场阶段 商业化程度较低 [3] - 月之暗面专注国内to C市场 MiniMax更关注国际市场 [3] - 月之暗面需支撑C端APP推理需求 减少训练投入在情理之中 [3] 大厂训练投入策略 - 腾讯坚持投入训练下一代混元模型 [3] - 阿里巴巴和字节竞争激烈 大模型训练呈现零和博弈态势 [3] - 训练市场零和博弈对英伟达B卡供应链公司带来较大冲击 [3] 推理市场现状与挑战 - 推理算力需求未如预期大幅增长 年初的AI热潮未能持续 [3][4] - 元宝APP增长势头放缓:第二季度MAU从2358.3万增至2502.5万 增幅仅6% 月均下载量从1343.3万下跌54%至617.5万 [4] - 腾讯对元宝等AI应用投入趋于温和 不再进行激进流量推广 [4] - 海外下架二手A100和H100快速进入国内市场 预计H100价格从210万降至170-160万 2026年可能降至100万 [4] - 二手训练设备转为推理设备将对合规卡(H20/4090/5090)带来较大冲击 [4] 长期推理市场展望 - 推理算力成本大幅降低将刺激下游AI应用客户使用 [5] - 海外下架训练设备转为推理设备将进一步推动推理算力成本下降 [5] 企业训练推理投入分配 - 阿里巴巴训练推理投入比例为8:2 80%预算用于训练集群 [5] - 字节训练推理预算比例约为50:50 包括海外集群 [5] - 腾讯训练推理投入比例约为2:8 所有应用目前均处于消耗状态 [5] - 月之暗面训练推理投入比例为7:3 [6] - 智谱训练推理投入比例为9.5:0.5 [6] - 阶跃星辰训练推理投入比例为9.5:0.5 [6] - 百川训练推理投入比例为4:5 [6]
李想对卓越创业者共性的非共识观点
理想TOP2· 2025-08-19 22:57
大趋势选择 - 卓越企业具备选择准确大趋势的能力 例如电商和外卖行业都需要精准把握趋势 [2] - 选择准确性是企业成功的基础要素 能够指导信息收集和判断过程 [2] 长期战略坚持 - 企业需要接受长期才能见效的战略 短期成功往往面临更多竞争压力 [2] - 知名企业通常都经过15到20年的发展历程 长期坚持是重要特征 [2] 高频迭代执行 - 在正确赛道上实施极高频率的市场迭代 这是反共识的关键成功因素 [4] - 迭代必须面向市场获取反馈 而非内部闭门造车 例如美团高频调整运营策略 字节跳动并行数十个产品版本 [9] - 英伟达坚持一年一代产品迭代节奏 相比竞争对手三年一代获得显著优势 [8] - 企业级芯片同样保持年迭代节奏 例如GB200到GB300的年度更新 [12] 训练模式类比 - 企业成长类似AI训练过程:基座模型相当于基础知识学习 后训练相当于经验传授 强化训练则对应市场实践反馈 [9] - 真正的成长来自于市场强化训练 需要放弃追求完美主义 注重实践频率 [11] 卓越企业标准 - 高频迭代是卓越企业的共同特征 优秀可能成为卓越的最大障碍 [12] - 这种模式严重违反直觉 绝大多数企业难以做到 [7][10]