当一个年轻人空降:改造腾讯混元的 300 天

腾讯混元大模型的变革背景与领导层支持 - 2024年,腾讯总裁刘炽平结识了当时为OpenAI研究员的97年年轻人姚顺雨,一年后其回国成为腾讯大语言模型负责人[3] - 腾讯最高决策者已意识到AI是生死之战,公司正远远落后于对手,马化腾在2025年员工大会上表示“一年前我们以为上了船,后来发现那个船漏水了”[3] - 在姚顺雨加入前,腾讯已为变革扫清障碍:混元原关键负责人悉数离场,姚顺雨可直接向集团总办汇报,其所在事业群总裁卢山愿意最大程度放权[4] 混元团队的组织与战略调整 - 2025年底,混元团队开启大规模调整:三个月内招聘了预训练、后训练、评估、Infra的新负责人;重造组织,成立专门服务混元的AI Infra部、AI Data部;统一共识,提出“守正出奇”的训练思路[4] - 团队进行了大规模改组,预训练、后训练、评估、Infra的负责人全部换人,新人来自字节、Kimi、DeepSeek、美团等公司,招人不再看出身,学校、年龄、资历都不是硬门槛[13] - 姚顺雨只担任大语言模型部与AI Infra部两个部门的一号位,混元是互联网巨头大模型团队中唯一一个把模型训练和Infra都交给一号位直接管的团队[14] - 部门层级被简化为“姚顺雨—方向负责人—研究员/实习生”三层,信息与资源被共享,问题可丢到百人大群迅速获得响应[14] - 2025年底,腾讯AI Lab被整体并入混元,姚顺雨将其重新定义为大语言模型部的前沿研究团队,负责前沿技术探索,不设KPI[12] 混元大模型的历史问题诊断 - 姚顺雨以顾问身份加入后诊断发现,混元的评测出了大问题,之前的团队过度追求模型榜单成绩,将打榜语料放进训练集污染了数据,导致模型在真实场景里表现很差[7][8] - 混元起步不顺利,2021年底的全集团降本增效导致人手急缺,项目组在2023年立项时连一块GPU都没有,最后从广告部门匀来2000张GPU[8] - 数据环节问题明显,数据按六类划分且团队各自为营,标注规则定义不清,实际准确率长期停留在60%-70%,但95%的验收指标未松动,导致生产出大批无法使用的数据[8][9] - 训练环节不健全,混元几乎没有做过强化学习,基模不支持,模型被比作按搜索引擎方式做出的大模型,只会回答见过答案的问题,不会推理和纠错[9] - 竞争压力下,团队曾冒险改用Transformer与Mamba结合的混合架构,并转向追求打榜成绩[9] Hy3模型的开发理念与技术路径 - 姚顺雨提出“守正出奇”的思路,强调先回归常识,把训练大模型最基础的事做对,再谈创新[4] - Hy3模型采用了最标准的MoE Transformer架构,放弃了线性注意力等方案,认为其主要价值在于降低长文本计算成本,但真实世界中超长文本场景并不多[18] - 团队花两个月时间完全重构了预训练和强化学习的Infra,Infra负责人来自字节跳动Seed,Infra直接影响算力利用率、训练稳定性和实验迭代速度[18] - 模型训练沿用了混元2.0时期积累的数据,但丢弃了传统的榜单评测基准,重新定义了数据标准,将原有数据从头清洗,SFT数据经大幅去重和筛选后只保留一万余条[18] - Hy3的总参数量定为295B,远低于同期Kimi K2.5的1T和GLM-5.2的近750B;每次推理仅激活21B参数,推理成本约为GLM-5.2的七分之一[20] - 模型的训练哲学是清楚定义目标——大多数用户日常真实面对的任务和愿意承担的成本,再寻找最优解,而非盲目堆资源追求智能最高点[19] Hy3模型的发布表现与市场反馈 - 2026年4月23日,混元发布Hy3 Preview,上线后登上了OpenRouter周度模型使用榜第一,单周处理3.66万亿个Token,使用量环比增长298%[21] - Hy3 Preview的表现超过了团队预期,证明了其训练思路的正确性,模型能力明显优于此前的混元2,在开源社区也获得了一定关注[4][21] - 正式版Hy3在Preview基础上扩大了强化学习规模,改进后训练数据,重点补强Agent能力,发布后行业反馈显示其显著好于preview版本,在小参数规模基础上赶超了GLM5.1,但还不及GLM5.2[22] - 团队认为Hy3距离真正的第一梯队还有差距,模型发布后没有庆祝也没有发布详细的技术报告,说明不认为它代表最终水平[22] 模型与业务的协同战略 - 姚顺雨提出模型与产品应以联合设计的模式合作,即模型和产品从一开始就绑定开发,模型可第一时间拿到产品的真实场景和用户反馈,产品也能及时向模型同步需求[24] - 为了打破部门墙、落实联合设计,姚顺雨在2025年底提出将自己手上的模型应用中心、搜索算法中心划归元宝所在的云与智慧产业事业群[25] - 混元向元宝等业务分别派驻了一支后训练团队,建立起了联合设计、交叉派驻、代码审查与共享的合作机制[25] - 腾讯的思路是,大模型的价值不一定要向外部客户收费,能帮内部业务提升收入同样是价值,例如若能帮助《王者荣耀》提升1%收入,那就是好几个亿[25] - WorkBuddy是协同的例子,新模型上线前会针对其脚手架做针对性适配,其用户反馈也为模型训练持续提供优化方向,该产品有上百万日活跃用户,其中腾讯自己就有十万员工[26][28] 行业竞争态势与未来规划 - 竞争对手正在加速:智谱的GLM在开发者群体中攒下了口碑;字节跳动的Seed正在训练一个史无前例的大尺寸模型;Kimi的K3则押注架构创新[5] - 一位资深的AI开发者评价“Hy3相比过去有进步,但离公认的好模型还有距离”[5] - 混元团队的判断是,正在训练中的Hy4仍然会是一个处于追赶头部状态的模型,但差距会明显缩小,目标在2027年进入国内第一梯队[5] - AI的竞争比当年的云计算残酷得多,大模型的代差以月计算[5] - 姚顺雨向总裁刘炽平提出请求,从新模型发布起至少一年内总办不要看榜单,一年大约是训练两代模型的时间,获得了同意[5] 改革的挑战与公司惯性 - 腾讯的AI改革能否成功仍有外界质疑,姚顺雨可以改变一支团队的速度,却很难独自改变一家公司的惯性[29] - 2019年前后,腾讯从硅谷引入的工程与数据人才最终因旧有业务体系阻力大多未留下太多成果而陆续离开,这提示了大公司的引力不会消失[29] - 内部竞争难以回避,面对发展AI需要的巨额资金和GPU,没有巨头有“无限子弹”,目前腾讯的卡资源明显倾向混元,但微信也在训练自己的大模型[30] - 决策空间稀缺,例如内部曾讨论过要不要训练更大尺寸的视频模型,但最终因成本和代价太高无人敢拍板[30] - 产品受到高层重视后,决策参与的人会越来越多,高层会提出具体意见,导致下面需要揣摩和执行,例如元宝就遇到过此类情况[30] - 改革进入攻坚期后,牵动的利益会越来越大,创新的风险也越来越高,能替姚顺雨扛住压力的只有总办,考验的是他与老板们之间的信任和意志能否统一[31][32]

当一个年轻人空降:改造腾讯混元的 300 天 - Reportify