华为发布准万亿模型盘古Ultra MoE
快讯·2025-05-30 16:17
华为发布准万亿模型盘古Ultra MoE 金十数据5月30日讯,华为推出参数规模7180亿的新模型——盘古Ultra MoE,这是一个全流程在昇腾AI 计算平台上训练的准万亿MoE模型。华为同时发布盘古Ultra MoE模型架构和训练方法的技术报告。在 训练方法上,华为首次披露在昇腾CloudMatrix 384超节点上,打通大稀疏比MoE强化学习(RL)后训 练框架的关键技术,使RL后训练进入超节点集群时代。 此外,近期发布的盘古Pro MoE大模型,在参 数量为720亿,激活160亿参数量的情况下,大模型榜单SuperCLUE的2025年5月排行榜上,位居千亿参 数量以内大模型排行并列国内第一。 ...