文章核心观点 - 美团发布新一代大模型LongCat-2.5,这是一款面向长程智能体任务的原生多模态模型,总参数1.6万亿,训练全程由国产算力完成[1] - LongCat-2.5的发布标志着“国芯国模”更进一步,不仅原生支持多模态,模型整体能力也比肩当前国际成熟闭源模型和头部开源模型[1] - 公司延续LongCat系列“国芯国模”研发路线,模型和AI产品用于支持主业,提升用户、商户体验和公司经营效率[3][4] 模型能力强化 - 在LongCat-2.0基础上,新模型进一步强化原生视觉理解与智能体编程能力,并优化国产算力上的长上下文训练与推理效率[1] - 原生多模态方面,将视觉输入转化为模型可统一处理的词元,提升视觉理解能力,支持交互网页、3D展示页面等任务[2] - 智能体编程方面,采用大规模长程强化学习,提升端到端工程任务能力,更好地支持复杂软件开发任务[2] - 中训练阶段采用最长达1M词元的序列开展长上下文训练,累计训练量达数万亿词元[2] 国产算力优化 - 今年6月发布的LongCat-2.0首次在国产算力上完成万亿参数模型的全流程训练与推理[1] - 针对国产算力单卡显存小的挑战,公司围绕超节点优化任务分工,让参数与任务数据的主要通信在超节点内的高速互联网络中完成[2] - 公司与国产算力厂商协同优化显存使用、卡间通信以及计算与传输效率[2] - 在所测长上下文监督微调任务中,优化后的单卡训练吞吐量较DDP基线提升86%,相当于一张卡能在同样时间内完成原来约1.86张卡的工作量,处理效率接近翻倍[2] 推理效率优化 - 推理方面采用W4A4方案,将专家权重和激活同时量化至4比特,以更低位宽表示计算所需数据,并针对国产AI加速器硬件特性优化计算与传输[3] - 在已评测的下游任务上,该方案保持与量化前模型相当的表现[3] 主业赋能与商业应用 - 公司CEO王兴表示,AI能力的长期价值在于能否真正进入真实工作流、解决真实问题,并形成长期稳定的基础设施能力,公司不会成为词元工厂[4] - LongCat-2.5重点强化商业分析、软件开发等能力,为本地生活商家配备AI帮手[4] - 基于LongCat系列模型,公司推出AI经营工作台“妙手”,帮助商家在高价值经营场景中理解行业指标和品牌规则,并在商家授权范围内调用工具与系统、完成经营任务执行[4] - “妙手”已服务古茗、徐升记、益禾堂等连锁品牌,融入品牌经营分析、门店管理和增长获客等高价值经营场景,帮助商家从发现问题走到决策和执行[4]
美团发布LongCat-2.5大模型 强化长程任务、多模态、商业分析等能力