大模型推理中的通信挑战与华为解决方案 核心观点 - 华为通过创新通信技术突破MoE模型推理中的三大通信难题，显著提升大模型推理效率[1][19] 大模型推理的通信基础 - 大语言模型参数规模呈指数级增长，部署形态从单卡演进至数百卡集群，MoE模型成为新趋势[2] - 集合通信操作（如AllReduce、All-Gather）是大模型多节点协作的关键，支持张量并行(TP)、数据并行(DP)、专家并行(EP)等策略[4][5] MoE模型的通信痛点 - MoE模型参数突破千亿级别，专家数量增长导致通信带宽需求呈平方级增长，引发网络拥塞[6] - 传统AllReduce在TP方案中跨节点带宽受限，端到端推理时延占比过高[7] - 计算与通信强耦合导致硬件资源利用率低下，流程串行化加剧性能瓶颈[6][11] 华为三大技术创新 1 多流并行技术 - 将MoE计算流程拆解为激活通信、门控决策等模块，通过昇腾多流引擎实现三股计算流并行[12] - 采用TP8分片与流水线技术，多卡并行时释放2GB内存，DeepSeek模型Prefill阶段提速超10%，Decode吞吐提升25%-30%[12] 2 AllReduce革新 - 将AllReduce拆解为ReduceScatter+AllGather，插入INT8动态量化技术使通信量降35%[14] - 关键计算量减少至1/8，DeepSeek Prefill性能提升22-26%，Llama3.1-70B Decode性能提升14%[14] 3 以存换传技术 - 通过矩阵乘法并行维度调整，将三维张量压缩为二维矩阵，注意力机制阶段通信量降86%[15] - 结合INT8量化使DeepSeek整体推理速度提升33%[15] 技术体系与未来方向 - FlashComm系列技术通过通信算子重构、数据维度优化和计算流程并行化实现端到端加速[19] - 未来将聚焦超大规模EP下的权重自动预取、模型自动多流并行等方向[19] 行业影响 - 华为技术已应用于DeepSeek V3/R1等超大规模MoE模型，国产芯片推理性能达国际领先水平[21] - 昇腾平台实现MoE专家动态部署优化，系统吞吐提升10%[21]

作者 | 褚杏娟 "模型开发已经从早期的算法层优化，转向系统工程层面的深度创新。"华为技术专家说道。 如今已经从数字化时代的比特流量转向 Token 经济体系。国内 Token 日消耗量从千亿级跃升至十万亿级，DeepSeek 等头部平台日均处理 6000 亿 Token 的实践，验证了高吞吐、低时延系统的商业价值。 同时，随着模型结构从单一架构探索发展为多模态融合创新，大模型的驱动部署模式发生根本转变。传统单卡部署已无法满足大模型高吞吐、高并发的 需求，分布式集群部署成为新常态。以 ChatGPT 和 DeepSeek 为例，用户规模突破亿级的时间从 1 个月压缩至 7 天，倒逼系统处理能力实现数量级提 升。如何提供更高的吞吐能力、更低的时延成为系统，成为各基础设施厂商的必做题。 DeepSeek 专调 DeepSeek 本身已经在 infra 层做了很多优化，但在企业部署过程中，华为自己也针对 DeepSeek 的模型做了各种优化，帮助企业全面兼容和支持应 用。 大模型训推方案 预训练方面，华为首先完整复现了幻方的 DualPipe 技术（仅开源了框架，没有开源代码），但该方案存在静态显存占用较高的问题。 ...

大模型与MoE架构挑战 - 主流MoE架构大模型存在硬件成本高、效率低等"先天不足"，中国企业面临芯片堆砌与效率挖掘的挑战[1] - 华为作为智能基础设施提供商，通过数学算法和工程积累为DeepSeek提升效率及用户体验[1] MoE模型的冷热专家问题 - MoE模型通过分配token给不同专家网络实现高效扩展，但面临负载不均衡的严峻挑战[4] - 冷热专家现象表现为：热专家调用频率比冷专家高一个数量级，导致推理延迟增加、吞吐量受限[4] 华为OmniPlacement负载均衡技术 - 通过专家重排、层间冗余部署和近实时动态调度提升MoE模型推理性能[7] - 动态优先级调整：实时统计专家调用频率，优先将高频专家部署在强计算节点[7] - 通信域优化：分析批次内激活卡数，减少跨节点通信延迟[7] 层间高频专家冗余部署 - 为热专家分配冗余实例降低跨节点通信开销，提升系统吞吐量[8] - 动态资源分配：根据实时资源占用和调用频率调整冗余实例比例[9] - 层间差异化配置：高负载层分配更多冗余实例，低负载层减少冗余节省显存[9] 近实时调度与监控机制 - 毫秒级动态调整专家分配，迭代优化部署模式降低计算开销[10] - 独立计算流运行监控任务，避免干扰推理主流程[10] - 层间流水线设计实现专家权重动态调整，降低高负载场景延迟[10] OmniPlacement框架特性 - 高兼容性：支持多种MoE模型架构，无缝集成现有推理系统[12] - 低时延开销：优化数据处理和调度流程减少额外计算开销[12] - 模块化设计：数据统计、算法运行和专家调度三大模块解耦[12] 性能验证与未来方向 - 实验显示OmniPlacement使DeepSeek-V3推理延迟降低10%，吞吐量提升10%[14] - 未来研究方向包括调度算法优化、自适应专家选择和框架扩展[15] - 技术突破体现华为在芯片架构、算法和软件生态的长期积累[15]

混合专家模型(MoE)技术发展 - 混合专家模型通过将输入token分配给不同专家网络实现高效扩展，显著提升大语言模型处理复杂任务的能力[2] - 当前MoE模型面临核心挑战是负载不均衡问题，表现为热专家调用频率比冷专家高出一个数量级以上[2] - 负载不均导致三大问题：计算节点成为瓶颈延长推理时间、系统吞吐量受限、资源利用率不足[2][3] 华为OmniPlacement技术创新 - 提出三层技术方案：计算均衡联合优化、层间冗余部署、近实时动态调度[4] - 核心算法通过分析专家激活数据优化部署顺序，降低负载不均现象[4] - 采用层间差异化冗余策略，高负载层分配更多冗余实例，节省显存同时提升吞吐量[4][5] - 动态调度机制实现毫秒级专家分配调整，监控与推理流程分离保障系统稳定性[6][8] 开源框架技术特性 - 开发vLLM推理优化框架Omni Placement，具备模块化架构设计[7] - 框架四大优势：兼容多种MoE架构、时延开销低于1%、模块化支持快速迭代、可扩展新算法[9] - 应用昇腾算力并整合开源最佳实践，近期将全面开源回馈社区[1][10] 实验验证效果 - 在DeepSeek-V3模型测试中，相比基线方法实现10%延迟降低和10%吞吐量提升[14] - 高并发场景下通过冗余部署和动态调度有效缓解负载瓶颈[12][14] - 系统在动态输入环境下保持稳定，未出现性能波动或中断[14] 未来技术方向 - 重点开发智能调度算法提升系统自适应能力[16] - 探索基于输入特征的自适应专家选择机制[16] - 扩展框架功能支持更多类型MoE模型[16] - 在智能客服等工业场景展现应用潜力，提升用户体验和系统吞吐[15]

金磊 发自 凹非寺 量子位 | 公众号 QbitAI 昨天的文章已经提到，昇腾超大规模MoE模型推理部署技术在本周会有持续的技术披露，果然第二天的技术报告又如期而至了。前情提要： 《华为 +DeepSeek，推理性能创新高！技术报告也公布出来了》 要问最近哪个模型最火， 混合专家模型 （MoE，Mixture of Experts）绝对是榜上提名的那一个。 它的巧妙之处，就在于把不同的任务分配给擅长处理的 专家网络 ，让整个系统性能得以提升。 但你知道吗？ 正是这个关键的专家网络，也是严重影响系统推理性能的因素之一。 因为在大量任务来临之际（尤其是超大规模时），MoE并不是以"雨露均沾"的方式去分配——专家网络们的 负载均衡问题 ，就会显得尤为 突出。 这个问题的根源，是因为某些专家网络总是被频繁调用（ 热专家 ），而另一些专家网络则鲜有机会派上用场（ 冷专家 ）。 没错，MoE里的"专家们"也是有冷热之分的，而且被调用频率的差距甚至可以达到 一个数量级以上！ 如此负载不均衡的现象，就会导致整个系统推理的时间被延长，以及还有资源利用率、系统性能受限等问题。 那么此局又该如何破解？ 别急， 华为团队 已经给出了 ...