大模型推理技术发展 - 主流MoE架构大模型存在硬件成本高、效率低等结构性问题，中国企业面临芯片堆砌与效率挖掘的挑战 [1] - 华为通过数学算法和工程积累为DeepSeek提升效率及用户体验，采用差异化技术路径 [1] - 大语言模型参数规模呈指数级增长，部署形态从单卡演进到多卡集群，MoE模型需数百卡集群支持 [2] 集合通信操作核心机制 - 集合通信操作（如AllReduce、All-Gather、Reduce-Scatter、All-To-All）是大模型多节点协作的关键桥梁 [2][3][4] - AllReduce用于梯度汇总与参数更新，All-Gather实现数据全局共享，Reduce-Scatter分摊计算压力 [3] - 不同并行策略（TP、DP、EP）依赖特定通信操作：TP需All-to-All交换张量片段，DP用AllReduce同步梯度，EP依赖广播传递中间结果 [4][5] 通信技术瓶颈与挑战 - MoE模型参数突破千亿级，专家数量增长导致通信带宽需求呈平方级增长，引发网络拥塞 [7] - 传统AllReduce在大并发场景下效率不足，且后续计算操作（如RMSNorm）加剧时延 [7][8] - TP并行方案中AllReduce操作占推理时延较高，跨节点带宽限制进一步劣化性能 [8] 华为FlashComm技术创新 - **多流并行技术**：拆解MoE计算流程为三股并行流（专家计算/门控决策/数据传输），实现Prefill阶段提速10%，Decode吞吐提升25-30% [12][13] - **AllReduce革新**：采用ReduceScatter+AllGather组合，结合INT8量化使通信量降35%，Prefill性能提升22-26% [15] - **维度压缩技术**：通过矩阵乘法并行维度调整，通信量减少86%，整体推理速度提升33% [17] 技术方案总结与展望 - FlashComm技术通过通信算子优化降低数据量及时延，FlashComm2优化张量并行通信，FlashComm3提升计算并行度 [21] - 未来研究方向包括EP多流并行、权重自动预取、模型自动多流并行等 [21] - 华为技术方案在DeepSeek模型部署中实现显著性能提升，对比传统方案具有竞争优势 [23]

大模型推理中的通信挑战与华为解决方案 核心观点 - 华为通过创新通信技术突破MoE模型推理中的三大通信难题，显著提升大模型推理效率[1][19] 大模型推理的通信基础 - 大语言模型参数规模呈指数级增长，部署形态从单卡演进至数百卡集群，MoE模型成为新趋势[2] - 集合通信操作（如AllReduce、All-Gather）是大模型多节点协作的关键，支持张量并行(TP)、数据并行(DP)、专家并行(EP)等策略[4][5] MoE模型的通信痛点 - MoE模型参数突破千亿级别，专家数量增长导致通信带宽需求呈平方级增长，引发网络拥塞[6] - 传统AllReduce在TP方案中跨节点带宽受限，端到端推理时延占比过高[7] - 计算与通信强耦合导致硬件资源利用率低下，流程串行化加剧性能瓶颈[6][11] 华为三大技术创新 1 多流并行技术 - 将MoE计算流程拆解为激活通信、门控决策等模块，通过昇腾多流引擎实现三股计算流并行[12] - 采用TP8分片与流水线技术，多卡并行时释放2GB内存，DeepSeek模型Prefill阶段提速超10%，Decode吞吐提升25%-30%[12] 2 AllReduce革新 - 将AllReduce拆解为ReduceScatter+AllGather，插入INT8动态量化技术使通信量降35%[14] - 关键计算量减少至1/8，DeepSeek Prefill性能提升22-26%，Llama3.1-70B Decode性能提升14%[14] 3 以存换传技术 - 通过矩阵乘法并行维度调整，将三维张量压缩为二维矩阵，注意力机制阶段通信量降86%[15] - 结合INT8量化使DeepSeek整体推理速度提升33%[15] 技术体系与未来方向 - FlashComm系列技术通过通信算子重构、数据维度优化和计算流程并行化实现端到端加速[19] - 未来将聚焦超大规模EP下的权重自动预取、模型自动多流并行等方向[19] 行业影响 - 华为技术已应用于DeepSeek V3/R1等超大规模MoE模型，国产芯片推理性能达国际领先水平[21] - 昇腾平台实现MoE专家动态部署优化，系统吞吐提升10%[21]

机器之心发布 机器之心编辑部 在今年 2 月的 DeepSeek 开源周中，大模型推理过程中并行策略和通信效率的深度优化成为重点之一。 近日， 华为数学家出手，祭出 FlashComm，三箭齐发，解决大模型推理通算难题 ： 随着大语言模型（Large Language Models, LLMs）规模的指数级扩张，其部署形态也随之变化，显卡配置朝着规模化、集约化演进。从神经网络时代的单卡部署， 到稠密模型时代的多卡 / 单节点部署，再到以最近发布的 DeepSeek V3/R1 模型为代表的混合专家（Mixture of Experts, MoE）模型，大语言模型甚至会采用数百卡 组成的集群和超节点来部署。 可以说，模型推理早已不是「单兵作战」，而是一场高协同的「群体作战」。而在这基于集群的大模型推理中， 集合通信操作就像是一群工人协作盖房子时传递 材料和信息的方式，能让多个计算节点高效配合完成任务 。 由上可以看出， 集合通信操作是大模型推理中多个计算节点协作的「桥梁」，不同的并行策略（TP、DP、EP）通过这些操作实现高效的数据交互和计算，从而 加速大模型的推理过程 。 通信：Scaling law 头顶的 ...

机器之心发布 机器之心编辑部 在今年 2 月的 DeepSeek 开源周中，大模型推理过程中并行策略和通信效率的深度优化成为重点之一。 近日， 华为数学家出手，祭出 FlashComm，三箭齐发，解决大模型推理通算难题 ： 随着大语言模型（Large Language Models, LLMs）规模的指数级扩张，其部署形态也随之变化，显卡配置朝着规模化、集约化演进。从神经网络时代的单卡部署， 到稠密模型时代的多卡 / 单节点部署，再到以最近发布的 DeepSeek V3/R1 模型为代表的混合专家（Mixture of Experts, MoE）模型，大语言模型甚至会采用数百卡 组成的集群和超节点来部署。 可以说，模型推理早已不是「单兵作战」，而是一场高协同的「群体作战」。而在这基于集群的大模型推理中， 集合通信操作就像是一群工人协作盖房子时传递 材料和信息的方式，能让多个计算节点高效配合完成任务 。 有一些常用集合通信操作，比如 全量规约（AllReduce） 可以想象成一群工人各自收集了不同区域的建筑材料数据，全量规约就是把所有工人手里的数据汇总到 一个地方，进行求和、求平均值等计算。在大模型里，多个计算 ...