昇腾超节点

搜索文档
媲美千亿级模型,华为首个开源大模型上线
选股宝· 2025-07-01 07:32
华为开源大模型技术 - 华为宣布开源盘古70亿参数的稠密模型和720亿参数的混合专家模型(盘古Pro MoE 72B),并同步开源基于昇腾的模型推理技术 [1] - Pro MoE 72B大模型在参数量720亿、激活160亿参数量的情况下,通过动态激活专家网络设计,实现媲美千亿级模型的性能表现 [1] - 该模型在Super CLUE 2025年5月排行榜上位居千亿参数量以内大模型排行并列国内第一 [1] - 华为云计算CEO表示开源有助于开发者基于国产算力平台开发大模型技术,扩展昇腾生态,并推动大模型赋能各行业 [1] - 招商证券指出华为盘古5.5发布718B参数MOE架构大模型,涵盖自然语言、视觉、多模态等领域,并推出"世界模型"赋能自动驾驶等行业应用 [1] 华为AI算力解决方案 - 华为提供从昇腾芯片、CANN异构计算架构、超节点到盘古大模型的完全自主、深度优化的闭环解决方案 [2] - 昇腾超节点已在中国电信等数据中心商用落地,带动国内供应链发展 [2] - 全球AI算力竞争转向大规模系统效能、生态构建与产业链能力全面对抗,华为重塑中美对立下的新算力格局 [2] 相关公司动态 - 华胜天成与华为在昇腾芯片、AICC智能联络中心等方向展开广泛协作 [3] - 软通动力推出软通昇腾AI工作站,提升AI本地化推理与生产效率 [4]
“东数西算”八大节点智算规模占全国八成,韶关成华南最大智算集聚区
21世纪经济报道· 2025-06-13 16:41
大湾区算力产业发展现状 - 粤港澳大湾区算力产业发展势头强劲 韶关集群已建成为华南地区最大智能算力集聚区 [1] - 截至今年一季度 我国"东数西算"八大枢纽节点算力总规模达215.5EFLOPS 占全国总算力70%以上 其中智能算力达174.11EFLOPS 占比80.8% [1] - 全球首个商用智算昇腾超节点在韶关上线 [1] 韶关集群建设进展 - 韶关已形成12万标准机架承载能力 引进22个智算中心项目 总投资超600亿元 招引上下游项目31个 [2] - 大湾区算力调度中心建成启用 广州数据交易所(韶关)服务基地上线运营 [2] - 移动 电信 联通 鹰硕 华韶等项目建成投产 百度智能云(韶关)标注基地启动运营 [2] - 腾讯 万国 中联 华韶二期等项目动工建设 [2] - 韶关网络时延大幅优化 数据传输到广州仅需1.3ms 到深圳仅需1.66ms [2] 科技创新平台建设 - 韶关数投&华为联合创新实验室上线 聚焦数据要素 人才培养 适配中心三大方向 [3] - 大湾区(韶关)集群数据要素存力中心 韶关市数据要素汇聚治理和隐私计算平台 粤港澳大湾区公共算力服务平台等平台揭牌成立 [3] - 鹏城实验室AI Edge联盟成立 推动AI与边缘计算深度融合 [3] 企业投资与合作 - 中国电信广东分公司计划在韶关投资建设3.85万标准机架 总投资超24亿元 [3] - 软通动力签约入驻 将承担算力调度平台建设并研发部署大模型 [3] 行业趋势与战略意义 - 以DeepSeek为代表的开源模型带动算力需求增长 算力在政府治理 企业经营 科研创新等领域作用凸显 [2] - 粤港澳大湾区是中国算力走向世界的"桥头堡" 需继续推动算力产业发展 [2]
一张卡干俩活,华为要把算力榨干
虎嗅APP· 2025-06-05 22:24
华为MoE架构优化 - 华为提出MoGE架构,克服了传统MoE模型负载不均衡及效率瓶颈问题,实现降本增效并便于训练和部署 [1] - 中国科技企业对MoE架构进行优化重组,展现后发优势,推动大模型技术向更普适和高效的方向发展 [1] RL后训练的重要性 - RL后训练已成为突破大模型性能天花板的核心路径,OpenAI o1和DeepSeek-R1等模型均依赖该技术 [3] - RL后训练通过动态交互直接塑造大模型在复杂任务中的推理效能,当前占训练全流程20%算力,未来将升至50% [3] - 该技术在提升模型精度、泛化性和用户体验方面发挥不可替代作用 [5] RL后训练的挑战 - On-Policy算法导致训练与推理严格交替,资源利用率低下,形成"算力黑洞" [6][7] - 大规模集群中多模型异构并行策略组合使任务调度复杂度指数级增长,扩展效率显著下降 [8] 华为RL Fusion技术 - RL Fusion实现一卡同时执行训练和推理任务,资源利用率和吞吐翻倍 [9][10] - 支持训推共卡、全共卡等多种部署模式,并实现多维并行策略动态无缝切换 [10] - 针对MoE模型提出训推内存0冗余切换技术,消除EP变化造成的冗余内存 [11][12] - 优化后训推切换过程达到秒级,使集群利用率倍增并大幅降低成本 [15] 华为StaleSync技术 - StaleSync采用准异步机制,容忍梯度"陈旧性",使CloudMatrix 384超节点水平扩展效率超90% [16][17] - 该技术结合共置和分离架构优势,平衡不同RL计算任务的资源需求 [20] - 引入准异步调度机制,在保证精度前提下使系统整体训练吞吐量提升50% [23] 分布式数据队列DistQueue - DistQueue实现不同计算任务间数据的拆分、缓存与动态读取 [24] - 采用分层数据传输与零冗余通信技术,在Pangu 718B-MoE案例中将负载降低为1/128 [25] - 零冗余通信技术避免Padding带来的额外通信,实测降低80%以上通信量 [26] 实测性能表现 - RL Fusion使单个超节点吞吐提升78.5%,结合StaleSync实现35k token/s吞吐效率,整体性能提升1.5倍 [30] - 集群规模从1个扩展至4个超节点时,StaleSync吞吐从35k tokens/s提升至127k tokens/s,扩展线性度达91% [31][32] 技术影响 - 华为RL Fusion和StaleSync技术攻克算力浪费和集群扩展瓶颈,形成高效、高扩展、高通用性的集群调度方案 [33] - 该技术为百亿、千亿级大模型后训练提供强劲动力,推动下一代AI效率革命 [33]
从“积木堆叠”到“有机生命体”:昇腾超节点重新定义AI算力架构
环球网· 2025-05-26 18:06
大模型算力需求与挑战 - 大模型参数量增长推动算力需求进入新纪元,传统集群架构受通信效率制约成为训练效率瓶颈 [1] - 传统集群架构面临三大核心痛点:通信瓶颈恶化(MoE模型节点间通信量几何级增长,400G网络时延超2ms)、资源分配粗放(静态划分导致效率下降30%以上)、可靠性脆弱(万卡集群每周故障2-3次,单次损失超百万美元)[1][2] - 行业需求从"算力堆砌"转向"效率革命",需构建"以数据流动为核心"的新架构 [1][2] 昇腾超节点技术架构创新 - 硬件互联突破:高速总线连接多颗NPU,跨节点通信带宽提升15倍,时延从2ms降至0.2ms [3] - 全局内存统一编址:虚拟化技术实现跨节点直接内存访问,消除参数同步的传统流程,提升小包数据传输效率 [5] - 智能资源调度:动态切分MoE模型任务(如288专家分配至独立NPU),计算与通信耗时比从1:1优化至3:1 [5] - 可靠性革新:七平面链路设计+秒级故障切换+算子级重传,无故障时长从几小时提升至几天,恢复时间缩短至15分钟 [5][6] 昇腾超节点性能与产业落地 - 构建384卡高速总线互联体系,训练性能达传统节点3倍,深度适配MoE模型释放潜力 [8] - MindIE Motor推理服务单卡吞吐达传统服务器4倍,超节点+大EP方案性能为业界4倍 [8] - 推出多模态理解SDK和昇腾推理微服务MIS,简化应用部署流程 [8] - 2022年起与DeepSeek等企业联合实验室优化架构,形成"需求驱动创新"闭环 [8] 行业技术哲学与趋势 - 架构创新成为后摩尔定律时代核心,需攻克高速互联、动态调度等世界级难题 [9] - 昇腾超节点技术突破使算力不再成为创新桎梏,推动AI产业进入"万类霜天竞自由"阶段 [9]
4月28日午间涨停分析
快讯· 2025-04-28 11:42
电力行业 - 4月全社会用电量同比增速预计在4.5%至5.5%之间,延续上升势头 [5] - 华银电力连续3天涨停,涨幅9.91%,属于电力行业 [3] - 华电能源连续2天涨停,涨幅10.00%,属于电力行业 [5] - 三峡水利首日涨停,涨幅9.97%,属于水电行业 [5] - 京能电力首日涨停,涨幅9.90%,属于电力行业 [5] - 廊坊发展首日涨停,涨幅9.95%,属于电力+房地产行业 [6] - 闽东电力首日涨停,涨幅10.02%,属于碳中和+电力行业 [6] 算力行业 - 全球首个商用智算昇腾超节点在中国电信粤港澳大湾区算力集群正式商用上线 [7] - 鸿博股份连续2天涨停,涨幅9.97%,属于算力行业 [3] - 中电鑫龙连续2天涨停,涨幅10.00%,属于算力+机器人行业 [8] - 天娱数科连续2天涨停,涨幅10.07%,属于算力+AI应用行业 [8] - 新锦动力首日涨停,涨幅19.92%,属于算力行业 [8] - 德生科技首日涨停,涨幅10.02%,属于算力+社区行业 [8] - 恒润股份首日涨停,涨幅10.03%,属于算力行业 [8] - 大位科技首日涨停,涨幅10.06%,属于算力行业 [8] 机器人行业 - 优必选签订大型双足人形机器人采购合同,涉及工业人形机器人Walker S1与商用版人形机器人Walker C [9] - 东贝集团连续4天涨停,涨幅10.00%,属于机器人行业 [9] - 弘景光电首日涨停,涨幅20.00%,属于次新+机器人行业 [9] - 殷图网联涨幅13.08%,属于固态电池+机器人行业 [9] - 乐创技术涨幅11.04%,属于机器人行业 [9] 化工行业 - 部分化工产品价格出现较大波动,相关公司受到市场关注 [10] - 威尔药业首日涨停,涨幅10.00%,属于医药+润滑油行业 [11] - 丁积心首日涨停,涨幅9.98%,属于季戊四醇行业 [13] - 联合化学涨幅11.23%,属于化工行业 [13] PEEK材料行业 - 人形机器人迎来量产元年,上游核心化工新材料如PEEK、PA、PPS等将持续受益 [14] - 肯特股份涨幅14.33%,属于PEEK材料行业 [15] - 新潮新材涨幅13.82%,属于PEEK材料行业 [15] 其他行业 - 天沃科技12天7板,涨幅10.00%,属于摘帽行业 [15] - 茂业商业连续3天涨停,涨幅10.11%,属于零售行业 [15] - 绿康生化首日涨停,涨幅10.03%,属于实控人变更行业 [15] - 普路通首日涨停,涨幅10.06%,属于跨境电商行业 [17] - 大千生态首日涨停,涨幅10.02%,属于股权变更+宠物经济行业 [17] - 华阳新材首日涨停,涨幅9.91%,属于稀土+可解材料行业 [17] - 瀛通通讯首日涨停,涨幅10.00%,属于消费电子行业 [17] - 新菜福涨幅11.01%,属于并购重组行业 [17] - 博瑞医药涨幅10.51%,属于创新药行业 [17]
算力概念股逆势反弹 大位科技涨停
快讯· 2025-04-28 09:39
算力概念股表现 - 大位科技、鸿博股份涨停 [1] - 宏景科技、恒润股份、杭钢股份、科华数据、奥飞数据、云赛智联等涨超5% [1] 行业动态 - 全球首个商用智算昇腾超节点在中国电信粤港澳大湾区(韶关)算力集群正式商用上线 [1]
首届具身智能机器人运动会开幕;贾跃亭称还债回国是人生重要目标;中国全景相机在美国被抢购
观察者网· 2025-04-27 08:48
人工智能政策与发展 - 中共中央政治局强调发挥新型举国体制优势推动人工智能健康有序发展[1] - 教育部举办人工智能校长局长专题培训班优化知识体系提升师生素养技能[6][7] - 教育部强调加快建设人工智能课程体系深化平台应用赋能教育改革创新[7] 人工智能技术与应用 - 全球首个商用智算昇腾超节点在中国电信粤港澳大湾区智算中心发布[3] - OpenAI升级GPT-4o模型提升智能和个性增强复杂指令理解能力[5] - 首届具身智能机器人运动会在无锡开幕100余家科研团队参与展示150台机器人[1] 企业融资与估值 - 埃隆·马斯克旗下xAI计划融资约200亿美元估值或超1200亿美元[4] - 贾跃亭称FF市值达百亿美元时可基本解决中国法律下的债务[10] 科技创新与产品发布 - 全球首款三涵道穿戴式单人飞行器在杭州首飞续航里程≥8km最大速度≥60km/h[8] - 我国万瓦级氦制冷机首次公开亮相实现超大型氦低温制冷技术突破[12] - 国内首台套商品化国产串列加速器研制成功实现完全自主可控[14] 行业数据与趋势 - 2025年1—3月中国进口汽车9.5万辆同比下降39%[7] - 中国进口车进口量从2017年124万辆持续下行至2023年80万辆[7] 企业合作与业绩 - 京东物流与佛吉亚签署战略合作协议聚焦绿色低碳仓储运输等领域[10] - 四川长虹一季度净利润3.45亿元同比增长96.68%[11] 产品市场表现 - 中国全景相机Insta360 X5在美国引发抢购排队达数百米[10]