华为整体业绩表现 - 2024年公司实现销售收入8,620.72亿元，同比增长22.4% [5] - 智能汽车解决方案业务收入同比大增474.40%，终端业务增长38.3%，数字能源业务增长24.4% [5] - 中国区收入达6,152.64亿元，欧洲-中东-非洲地区收入1,483.55亿元，亚太地区收入433.06亿元，美洲地区收入363.01亿元 [5] 华为云业务 - 2024年下半年中国公共云市场规模达241.1亿美元，IaaS占54.8%达132.1亿美元，PaaS占18.1%达43.7亿美元 [6] - 华为云以13.20%市场份额成为中国第二大公有云IaaS厂商，营收增速24.40%为行业第一 [6] - 生成式AI驱动公共云市场增速回暖，IaaS+PaaS市场同比增长15.8% [6] CloudMatrix 384技术对比 - 昇腾910C单卡性能780 TFLOPS，仅为英伟达GB200单卡性能2,500 TFLOPS的31% [10][11] - CloudMatrix 384集群性能达300 PFLOPS，是英伟达GB200 NVL72集群性能180 PFLOPS的1.7倍 [10][11] - 采用光缆互联技术实现低时延高带宽，HBM总带宽1,229 TB/s超英伟达576 TB/s的2.1倍 [11] 鸿蒙操作系统特性 - 采用自研微内核架构，摆脱Linux依赖，性能优于安卓宏内核和iOS混合内核 [12][13] - 分布式软总线技术实现设备互联速度提升3倍，最多支持4台设备协同 [13] - AI助手集成大模型能力，支持复杂指令理解和跨设备控制 [13] 昇腾芯片技术体系 - 昇腾910系列采用chiplet技术，集成Davinci Core和HBM组件，专攻云端训练推理场景 [18][20] - Mindspore框架市场份额达30.26%，仅次于Pytorch成为主流AI开发框架 [22] - 产品线覆盖AI模块、加速卡、边缘设备、服务器及集群五类场景 [20] 麒麟芯片技术突破 - 麒麟9020性能介于骁龙8+与8 Gen2之间，达到高端处理器水准 [23][24] - 麒麟X90采用泰山V3架构，16核主频超4.2GHz，能效比提升40% [24][25] - AI算力达同级x86芯片5倍，GPU图形渲染性能接近苹果A15 [25] 鲲鹏服务器生态 - 基于ARM架构打造高性能低功耗处理器，推动国产替代x86服务器芯片 [27][29] - 通过硬件开放、软件开源策略构建产业生态，支持openEuler和openGauss商业版 [29]

**行业与公司** - 行业：人工智能（AI）加速器、高性能计算（HPC）、半导体制造 - 公司：华为（Huawei）、Nvidia、SMIC（中芯国际）、三星（Samsung）、TSMC（台积电） --- **核心观点与论据** **1 华为CloudMatrix 8的性能与架构** - **对标产品**：华为CloudMatrix 8（CM8）基于Ascend 10C芯片，直接对标Nvidia GB200 NVL72，部分指标超越Nvidia[3][4] - **系统级优势**：CM8在系统层面（加速器、网络、光学、软件）创新，而非仅芯片层面[4] - **关键指标**： - **计算性能**：CM8提供300 PFLOPS（BF16密集计算），比NVL72（180 PFLOPS）高1.7倍[10] - **内存带宽**：CM8为1,229 TB/s，是NVL72（576 TB/s）的2.1倍[10] - **功耗**：CM8全系统功耗559,378W，是NVL72（145,000W）的3.9倍，但中国无电力限制[10][12] **2 华为的供应链与制裁规避** - **芯片制造依赖**：Ascend 10C主要依赖TSMC 7nm工艺，而非SMIC[7][17] - **HBM来源**：三星是华为HBM主要供应商，通过第三方（如CoAsia Electronics）规避出口禁令[19][20] - **制裁规避手段**： - 通过Sophgo采购TSMC晶圆（价值5亿美元）[17] - 利用Faraday Technology“包装”HBM芯片，再拆解提取[21] **3 中国半导体产业的潜力与挑战** - **国内产能**：SMIC计划扩产至50,000片/月（7nm），但良率（5%-50%）和供应链（光刻胶、设备）仍是瓶颈[25][27] - **电力优势**：中国电力供应充足（煤炭、核能、可再生能源），支持高功耗AI基础设施[13][14] - **长期风险**：美国可能加强制裁，限制HBM、晶圆制造设备等关键领域[7][24] **4 CM8的架构细节与成本** - **网络设计**： - **Scale-Up**：采用全光学互联（5,760个400G LPO光模块），功耗和成本高于Nvidia铜互联[37][38] - **Scale-Out**：两层级拓扑，使用1,536个光模块[43] - **成本对比**： - CM8每GPU互联成本4,672美元（Nvidia为4,075美元），功耗159W/GPU（Nvidia为75W/GPU）[39] **5 华为与Nvidia的芯片级对比** - **Ascend 10C芯片**： - 性能为Nvidia B200的30%（780 TFLOPS vs 2,500 TFLOPS）[10] - 内存带宽3.2 TB/s（B200为8 TB/s）[10] - **系统级优势**：通过数量（384 GPU vs 72 GPU）和光学互联弥补单芯片劣势[10][47] --- **其他重要内容** - **光学技术**：华为采用线性可插拔光学（LPO）模块，降低功耗30%，但总量仍导致高功耗[44][45] - **地缘政治影响**：美国需关注中国通过第三方规避制裁的行为，尤其是HBM和晶圆制造设备[7][20] - **行业趋势**：AI基础设施竞争从芯片转向系统架构，电力供应成为关键差异化因素[5][15] --- **数据引用** - CM8全系统功耗：559,378W [10] - NVL72全系统功耗：145,000W [10] - SMIC晶圆产能：50,000片/月（7nm）[25] - HBM库存：100万颗（支持105万颗Ascend 10C）[19]

核心观点 - 华为推出CloudMatrix 384机架系统，搭载昇腾P910C NPU，性能超越Nvidia H20，成为中国市场强劲替代品 [3][6][7] - 华为通过大规模集群设计（384个NPU）实现系统级性能优势，但牺牲了计算密度和能效 [9][11][15] - 在推理性能方面，华为系统展现竞争力，部分指标优于Nvidia H800 [13][14] - 中国市场的特殊性使华为获得竞争优势，但产能和成本仍是挑战 [16][17] 产品性能对比 芯片级对比 - 昇腾P910C FP16性能达752 teraFLOPS，是Nvidia H20的两倍多 [6] - P910C内存容量128GB，高于H20的96GB，但内存带宽3.2TB/s略低于H20 [6][4] - 相比Nvidia Blackwell GB200，P910C密集FP16性能约为其60% [3] 系统级对比 - CloudMatrix 384包含384个NPU，是Nvidia NVL72系统（72个GPU）的5倍多 [3][11] - 华为系统FP16性能达7.5倍，内存带宽5.6倍，内存容量3.4倍于NVL72 [11] - 华为系统占地面积是NVL72的16倍，功率约600kW vs NVL72的120kW [15] 技术架构 - P910C采用双计算芯片设计，通过540GB/s互连连接 [4] - 统一总线(UB)技术支持最多165,000个NPU的集群扩展 [9][11] - CloudMatrix-Infer平台实现高吞吐量推理，DeepSeek R1测试达6,688输入token/s [13][14] 市场与成本 - CloudMatrix 384售价约820万美元，Nvidia NVL72约350万美元 [16] - 中芯国际的制造能力是华为产能关键瓶颈 [16] - Nvidia已追加30万片H20订单满足中国需求 [17]

英伟达与中国市场 - 英伟达市值突破4万亿美元，成为全球首个达到此规模的公司，从1万亿到4万亿仅用2年时间[4][23] - 中国区2024年营收达171亿美元，同比增长66%，占全球总营收13%，为第四大销售地区[17][18] - 公司在中国拥有约4000名员工，业务覆盖AI、汽车智驾等领域，团队分布在北京、上海、深圳等地[4] 中美贸易摩擦影响 - 美国2022年10月、2023年10月连续升级对华半导体制裁，禁止A100、H100等芯片出口，导致中国区业务停滞[5] - 2025年4月美国对华加征134%关税，中国反制加征125%关税，H20芯片需"无限期"申请出口许可[5][13] - 特供版H20芯片性能仅为H100的30%，单价1.2万美元，导致公司计提55亿美元损失，占中国区营收32%[20][25] 技术竞争与替代风险 - 华为发布CloudMatrix 384超节点，算力达300PFlops，较英伟达NVL72提升67%，威胁其市场地位[27] - 中国国产芯片如寒武纪思元系列、壁仞科技BR100等快速崛起，百度昆仑芯、阿里含光取得显著进展[27] - CUDA生态护城河面临挑战，华为CANN架构可能兼容CUDA，若生态被突破将动摇英伟达技术优势[28] 战略应对与市场机遇 - 黄仁勋频繁访华，2025年4月会见中国贸促会会长及副总理，强调中国市场重要性[14][15] - 预计2026年中国AI芯片市场规模达500亿美元，因本土AI企业如字节、腾讯、阿里等需求激增[23] - 计划推出新款特供芯片RTX PRO 6000阉割版，瞄准中国机器人及智能工厂场景，9月上市[26] 客户与行业动态 - 全球Hopper系列GPU前五大买家：微软(48.5万枚)、字节(23万枚)、腾讯(23万枚)、Meta(22.4万枚)、亚马逊(19.6万枚)[20] - 中国车企广泛采用Orin芯片开发智驾系统，2022年量产后主导本土智驾市场[10][11] - Deepseek R1模型引爆中国AI浪潮，大小厂商All in AI推动芯片需求指数级增长[23]

报告行业投资评级 - 给予行业强于大市的投资评级 [4][179] 报告的核心观点 - 近期美国科技禁令呈放松势头，EDA和H20接连松绑，但长期政策不确定性仍在，国产替代趋势将持续 [4][179] - 国内外对比，近期AI领域国外科技企业进展更明显，国内因R2发布预期落空创新驱动力减弱，Meta的AI人才争夺战将科技企业AI发展热潮推向顶峰 [4][179] - 继续看好近期行业市场表现，建议关注EDA企业华大九天（301269）和有大规模智算中心交付计划的润泽科技（300442） [4][179] 根据相关目录分别进行总结 行业数据 - 2025年1 - 5月软件产业增速上升，业务收入5.58万亿元，增长11.2%，利润总额6721亿元，增长12.8%，出口金额227亿美元，增长3.3% [13][14][15] - 2025年1 - 5月高景气赛道为IC设计、云 + 大数据服务，基础软件景气度提升，IC设计同比增长15.2%，云服务和大数据服务同比增长11.2%，基础软件同比增长10.0% [19][20][23] - 2023年地理信息产业规模超8000亿，我国商业遥感卫星在轨数量快速增长，北斗开展下一代系统关键技术攻关，地理信息行业多家企业受军方处罚 [35][42][52] - AI领域，Grok 4成最强AI模型，继续关注R2进展，Meta开启AI人才争夺战，2025Q1 AI应用需求爆发 [60][70][74] - 国产化方面，芯片国产化进程深入，AI芯片企业集中上市，鸿蒙电脑适配应用或超2500款，EDA禁令解除但国产替代是趋势，H20恢复供应使服务器厂商分化，华为昇腾AI云上线 [94][97][100] - 算力方面，2025年大规模智算中心或集中交付，2025Q1国内科技厂商资本开支环比下滑，云计算市场加速增长但集中度下降，液冷国标将发布，算力互联互通积极推进 [130][135][138] 新闻与公告 - 中美高层通话后中国半导体产业技术访问权限变化，EDA工具平台恢复访问，中科曙光被海光信息吸收合并，华为和中芯国际被列入台出口管制黑名单，美国商务部通知西门子在中国开展业务无需许可，英伟达GB300下半年上市，华大九天终止收购，H20芯片获批销往中国 [163][164] 河南计算机行业动态 - 河南发布重大产业关键技术攻关项目立项文件，省委书记会见曙光信息总裁，公布第一批数据企业名单，举行重大项目集中开工活动，出具首份地理信息数据质量认证报告，宇树科技体验店开业，鹤壁实现红绿灯智能控制，省长调研人工智能产业 [165][166] - 5月河南电子行业增速减慢，高技术制造业投资增长加快，6月河南计算机行业上市公司以上涨为主 [167][168] 投资策略 - 6月行业结束连续3个月调整开启上涨行情，行业估值位于历史均值之间 [171][172] - 2025年1 - 5月软件产业增速上升，重点关注AI、国产化、算力领域动态，给予行业强于大市评级，建议关注相关企业 [175][176][179]

报告行业投资评级 - 看好计算机行业 [5] 报告的核心观点 - 上海国资委专题学习稳定币，稳定币加速进入主流领域，本周发布稳定币深度报告，明确稳定币是中长期主线，正进入主流支付领域，中国香港发展合规稳定币有战略意义 [4][5][6] - 本周发布超节点行业深度报告，华为 CloudMatrix 384 为国产范例，通过工程化设计弥补单卡性能不足，提升推理性价比，预计后续超节点将成国产算力主流出货形式 [5][6][33] 各部分总结 上海国资委专题学习稳定币，稳定币加速进入主流领域 - 2025 年 7 月 10 日，上海国资委专题学习稳定币，认可其对金融系统的补充作用，强调积极布局相关技术探索应用潜力，代表香港及全球稳定币合规化浪潮影响扩大 [5][7][8] - 稳定币是连接传统金融与加密世界的桥梁，有法币抵押型、加密资产抵押型、算法型等类型，当前多国立法推动合规稳定币发展，不同国家战略定位不同 [9][11][21] - 2025 年 5 月香港通过《稳定币条例草案》，预计 8 月 1 日生效，允许稳定币发行有强化金融中心地位等意义，头部发行方和交易所利润空间大 [24] - 稳定币相关受益标的包括证券 IT 服务商、稳定币持牌机构相关、跨境支付相关、Web3.0 技术服务商等 [29][30][31] 超节点：从单卡突破到集群重构 - 超节点是算力网络系统在单个或多个机柜层面的 Scale - up，与 Scale - out 本质不同，当前 Scale - up 进入“超节点”时代，芯片厂商预计在该领域深耕 [34][36][37] - 超节点设计对模型训练、推理性能提升显著，可平衡模型需求和工程成本，但受模型、IDC 实践、通信等因素制约 [38][41][45] - 华为 CloudMatrix 384 通过 UB 交换网络实现 384 个 NPU 全互联，弥补单卡性能短板，在模型推理上做了深度适配，预计后续国产算力将更多以超节点形式出货 [48][53][63] 风险偏好判断以及重点标的 - 包括数字经济领军、AIGC 应用、AIGC 算力、数据要素、信创弹性、港股核心、智联汽车、新型工业化、医疗信息化等不同类型的重点标的 [66] 计算机重点公司估值表 - 报告给出了金山办公、海康威视等多家公司 2024A - 2027E 的净利润和 PE 估值情况 [70]

华为云Stack政企数智化战略 - 华为云Stack以"做智能时代更懂政企的云"为主题举办高峰论坛，汇聚政府、金融、央国企等领域专家探讨政企数智化转型 [1] - 生产智能化、数据要素化、经验全球化被定位为政企数智跃迁的三大驱动力 [1] - 公司全面构建AI云服务产品和解决方案竞争力，已落地智慧客服、工艺优化等业务场景 [1] - 中国拥有最全工业门类、最大规模政务云体系，为AI产业提供海量工业数据、金融数据和公共数据 [3] 混合云技术优势 - 华为混合云总裁提出混合云需具备高韧性、安全合规特性，支撑数据+AI+应用开发的行业技术栈 [3] - 华为云Stack提供120多个云服务和50多个场景化解决方案，在亚太与中国混合云市场保持政务、金融、制造领域份额第一 [3] - 计划下半年适配CloudMatrix 384超节点，使政企客户可在本地拥有云上超节点 [4] 政企用户细分服务 - 将政企用户细分为数据中心工程师、数据工程师等四类角色，针对性提供软件与AI能力 [4] - 从"建云、上云、用云、管云"全流程构建产品方案，覆盖云平台到生产工具链 [4] 行业应用案例 - 湘钢集团联合发布全球首个钢铁大模型，已上线32个AI场景包括智慧配煤、废钢定级等，计划年底达100个场景 [5] - 成都城投数智集团构建城投云和可信数据空间，计划加快感知体系建设催生新业态 [6] 大模型技术进展 - 2025年新一代大模型推动AI产业在模型架构、应用开发等四个维度发生变革 [7] - 华为云Stack通过六大能力升级（极致推理、一站式工具链等）打造政企AI平台 [7] - 发布《政企AI平台架构及应用实践》白皮书，总结政务、金融等行业头部客户实践 [7]

报告行业投资评级 看好 —— 计算机行业 [2] 报告的核心观点 本周计算机行业呈现超节点趋势和3D打印消费级需求释放两大趋势，同时新国都、海光信息、北森控股等重点公司有重要进展，投资者可关注数字经济领军、AIGC应用等多领域标的 [2][3] 根据相关目录分别进行总结 从华为CloudMatrix384看AI服务器未来趋势 - GPU互联规模和效率决定AI服务器集群性能，其扩大有Scale - up和Scale - out两个方向，二者在协议栈、硬件拓扑、容错机制和通信效率上存在本质差异 [4] - Scale - up突破单服务器/机柜限制进入“超节点”时代，核心是实现节点内GPU全互联，华为CloudMatrix384和英伟达NVL72已验证该趋势 [2][6] - CloudMatrix384通过增大Scale - up规模弥补单卡性能短板，提升整体算力和MoE模型训推效率，其拓扑结构和产品形态与NVL72有差异 [17] - CloudMatrix384已规模上线，下游客户丰富，其方案将推动AI芯片以“超节点”形式出货、400G多模或LPO采购增加、AIDC需求增加和液冷渗透率提升等产业链新趋势 [24][25] - Scale - out方面，以太网性价比不输Infiniband，预计未来二者在AI服务器集群中二元共存局面将继续保持 [25] 3D打印：从工业级到消费级，需求有望快速释放 - 25年5月我国3D打印设备产量同比增长40%，消费级3D打印产品因价格下探和操作简化迎来快速增长阶段 [2][28] - 3D打印是增材制造技术，核心价值是突破模具限制，实现设计自由度与制造效率跃升，其实现对操作者有一定门槛，性价比及产品精度是厂商核心 [30][32][33] - 当前主流3D打印技术呈现差异化发展路径，FDM是消费级主流选择方案，3D打印核心竞争力体现在设计自由度、定制化能力、成本效率和可持续性四个维度，产业化应用跨领域拓展 [40][41][42] - 3D扫描仪可降低3D打印使用门槛，提升精度，3D打印核心产业链相关公司包括消费级3D打印机整机、3D打印核心部件和3D扫描仪企业 [45][50] 重点公司更新 新国都：AIGC与支付出海 - 公司海外本地收单在国内A股上市收单公司中领先，海外重点布局SoftPOS发展海外移动支付，获全球首张MPoC证书 [51] - 公司海外AIGC布局已产生正收益，海外参股公司Duality Intelligence Limited已推出多款AI应用，2023年公司从参股AI公司取得投资收益约3364万元 [52] - 国内收单行业出清，费率止跌回升，公司收单业务综合排名靠前，有望享受行业出清红利 [52] 海光信息：换股合并中科曙光，长期打造国产算力“航母” - 海光信息发布换股吸收合并中科曙光并募集配套资金暨关联交易预案，换股方案实际曙光价格溢价254亿元，海光拟定增配套换股 [53] - 本次整合有利于公司业务拓展，最终打造国产算力领军“航母” [53] 北森控股：一体化HR SaaS，深耕HR领域20余年 - 公司以人才招聘、测评为基础，打造一体化HR SaaS及人才管理解决方案iTalentX，助力企业提升组织效能 [56] - iTalentX 8.0升级2000 +功能和场景，扩大一体化产品领先能力 [56] - 公司核心能力来自心理学研究，独家语料形成核心壁垒，随着大模型能力增强，公司优势将被放大 [60] 风险偏好判断以及重点标的 - 数字经济领军：海康威视、金山办公等 [62] - AIGC应用：金山办公、新致软件等 [64] - AIGC算力：浪潮信息、海光信息等 [64] - 数据要素：税友股份、博思软件等 [64] - 信创弹性：海光信息、太极股份等 [64] - 港股核心：中国软件国际、金蝶国际等 [64] - 智联汽车：德赛西威、虹软科技等 [64] - 新型工业化：中控技术、赛意信息等 [64] - 医疗信息化：润达医疗、嘉和美康等 [64]

报告核心观点 报告涵盖国内国际市场表现、财经要闻、宏观策略、行业公司研究及重点数据更新等内容，分析各行业现状与趋势，为投资者提供投资参考与建议，如关注国产基础软硬件、锂电池、化工、半导体等行业投资机会，预计短期市场稳步震荡上行，需关注政策、资金和外盘变化[8][13][17]。 国内市场表现 - 昨日上证指数、深证成指、创业板指等多指数有不同涨跌幅，科创50涨0.14%，创业板50跌0.67%等 [3] - 2024.06 - 2025.06上证指数和深证成指有不同幅度涨跌变化 [2] 国际市场表现 - 道琼斯、标普500、纳斯达克等指数有不同涨跌幅，日经225涨0.62%，恒生指数涨0.70% [4] 财经要闻 - 国务院国资委要求央企和地方国企研究创新体系支撑问题，统筹推动科技创新 [4] - 截至2025年一季度末，央企和地方国企改革深化提升行动重点改革任务平均完成率超80% [5] - 河南省政府印发招商引资指导意见，提出建立首报首谈机制，鼓励市场化招商 [5] 宏观策略 - A股有震荡整理、蓄势震荡等不同表现，不同行业领涨，当前市盈率适合中长期布局，成交金额处于中位数区域上方，经济温和复苏，预计短期市场稳步震荡上行，需关注中东局势、政策信号及量能变化 [8][9] 行业公司 国产基础软硬件 - 2025年1 - 4月软件业务收入4.26万亿元，同比增10.8%，较1 - 3月回升0.2PCT，AI芯片国产化比率提升，鸿蒙电脑应用适配数量增加，英伟达称华为芯片技术达H200级别，给予行业强于大市评级，建议关注相关企业 [13] 锂电池 - 2024年营收和净利润分别增长0.07%和 - 30.19%，2025年一季度分别增长18.12%和58.37%，维持强于大市评级，建议关注三条投资主线 [17][18] 化工 - 2025年5月中信基础化工行业指数上涨2.11%，子行业中涤纶、农药和粘胶表现居前，维持同步大市评级，建议关注钾肥、磷化工和农药行业 [19] 半导体 - 5月国内半导体行业表现较弱，全球半导体销售额同比增长，存储器价格回升，美国出口管制升级，建议关注产业链国产化率低的环节及国内存储器产业链投资机会 [22][23] 新能源汽车 - 2025年5月锂电池板块指数下跌0.01%，我国新能源汽车销售130.70万辆，同比增长36.86%，维持强于大市评级，短期建议关注板块投资机会 [25] 电信运营商 - 2025年5月通信行业指数强于沪深300指数，1 - 4月电信业务量收增速回升，维持强于大市评级，建议关注光通信、电信运营商、AI手机板块 [26][29] 食品饮料 - 2025年5月板块微涨，受白酒拖累，热点切换，估值环比回落，处于十年历史低位，投资延续高增长，建议关注软饮料等板块投资机会 [31][33] 电气设备 - 5月表现弱于沪深300指数，4月PMI回落，出口延续高增长，维持同步大市评级，行业主要驱动来自国内 [34][36] 光伏 - 5月光伏板块震荡筑底，4月国内新增光伏装机大幅增长，逆变器出口改善，纤纳光电有技术突破，建议关注主辅材和技术创新领域头部企业 [37][38] 机械 - 中信机械行业2025一季报业绩改善，部分周期性行业复苏，新能源设备子行业增速减退，基础件增长稳健，建议配置传统周期机械板块，关注成长板块主题 [40][44] 重点数据更新 限售股解禁 - 通葡ST、国睿科技等多只股票近期有解禁，解禁数量和占总股本比例不同 [45] 沪深港通前十大活跃个股 - 恒生电子、贵州茅台等为活跃个股，有不同成交金额、收盘价和涨跌幅 [47] 新股申购和IPO信息 - 报告提及相关信息，但未给出具体内容 [46][47]

华为Pangu Ultra MoE大模型技术突破 - 实现国产算力与国产模型全流程自主可控训练闭环 昇腾Atlas 800T A2万卡集群MFU提升至41% 单CloudMatrix 384超节点吞吐达35K Tokens/s [2][3] - 首次披露昇腾CloudMatrix 384超节点上高效打通大稀疏比MoE强化学习后训练框架的关键技术 让以强化学习为核心的后训练进入超节点集群时代 [3][4] - 7180亿参数规模 61层Transformer结构 前3层稠密层后58层MoE层 隐层维度7680 配备256个路由专家和1个共享专家 专家隐层维度2048 [32] 技术痛点与解决方案 - 当前MoE预训练和强化学习后训练存在六大挑战：并行策略配置困难 All-to-All通信瓶颈 系统负载分布不均 算子调度开销过大 训练流程管理复杂 大规模扩展受限 [7][8] - 通过并行策略智能选择 计算通信深度融合 全局动态负载平衡等技术创新显著提升集群效率 建模仿真驱动智能并行优化确定最优部署配置：16路流水线并行 8路张量并行 32路专家并行 2路虚拟流水线并行 [11][12][13] - 创新设计分层All-to-All通信去冗余机制 专家并行通信开销降至<2% 采用EDP全局负载均衡优化策略 实现设备间计算负载精确平衡 [14][17] 昇腾单节点算力优化 - 通过昇腾架构深度适配的训练算子加速 关键算子性能显著跃升 Host-Device协同优化将MoE训练中Host-Bound占比控制在2%以下 [21][23] - 构建精密内存优化框架 实现70%激活值内存节省 微批处理规模提升至原来两倍 [24][25] - 采用RL Fusion训推共卡技术 支持训练推理共卡 全共卡等灵活部署模式 实现秒级训推状态转换 后训练集群利用率翻倍 [27][28] 强化学习后训练创新 - 设计准异步机制StaleSync 让不同RL阶段任务在陈旧度阈值内并行执行 系统整体训练吞吐提升50% [29] - 采用分布式数据队列DistQueue 有效缓解不同计算任务间数据阻塞 为后训练任务高效调度提供支持 [29] - 在昇腾CloudMatrix 384超节点集群后训练中 采用训练推理混合并行策略 实现每超节点35K Tokens/s高吞吐 支持高效扩展超过4K卡集群 [32][34]