Workflow
英伟达H800
icon
搜索文档
华为芯片,让英伟达黄教主坐不住了
21世纪经济报道· 2025-07-07 16:56
核心观点 - 华为昇腾CloudMatrix 384超节点在部分性能上超越英伟达GB200机柜,整体计算能力达后者的1.6倍[1][13] - 昇腾通过集群化设计弥补单芯片性能差距,实现从"备胎"到"主力"的转变,成功训练出千亿参数大模型[3][6][32] - 昇腾在算力利用率(MFU)上达到全球一流水平,稠密模型MFU超50%,MoE模型达41%-45%[9][10] - 昇腾384超节点采用光互联等系统性工程突破,实现384芯片高效协同,技术路径与英伟达差异化[16][21][29] 技术性能对比 - 单芯片性能为英伟达Blackwell的三分之一,但384超节点通过5倍芯片数量实现系统算力反超[13] - 推理性能对标英伟达H100,在DeepSeek-R1模型测试中算力利用率获全场最佳[11] - 英伟达GB200机柜仅集成72块GPU(下一代144块),华为突破384芯片互联技术[19][20] 技术路径创新 - 采用全对等互联架构与光缆连接,传输效率优于英伟达NVLink铜缆方案[27][29] - 结合鲲鹏CPU与昇腾NPU协同优化,实现"数学补物理"的系统级创新[24][32] - 自研CANN软件栈替代CUDA生态,支持分钟级故障恢复等工程优化[32] 行业竞争格局 - 国内AI芯片形成三大派系:科技巨头(华为/百度/阿里)、纯芯片厂商(寒武纪/燧原等)、细分领域企业(地平线等)[36] - 英伟达仍保持3nm工艺领先优势,CUDA生态历史积淀深厚[33][34] - 美国制裁背景下,昇腾在中国市场加速替代英伟达H20受限产品[36][37] 发展前景 - 华为通过"面积换性能"策略开辟中国特色技术曲线,实现弯道超车[38][39] - 昇腾已验证国产芯片训练千亿参数模型能力,标志国产算力进入实用阶段[6][40]
华为芯片,究竟有多牛?(上)
21世纪经济报道· 2025-07-06 11:12
0:00 21世纪经济报道记者倪雨晴 深圳报道 华为的昇腾,让英伟达黄教主都坐不住了。他公开表示,华为昇腾CloudMatrix 384超节点,部分性能上 甚至超过英伟达的产品。 华为的384超节点方案,就像全真七子用剑阵打黄药师,集群一起上,黄药师还真有点招架不住。 海外专业机构SemiAnalysis更是直接点名:384超节点的整体计算能力是英伟达GB200机柜的1.6倍! 在单芯片性能受限、制裁持续的情况下,华为昇腾是真能打,还是"自嗨"?它是如何与英伟达竞争的? 国产算力究竟到了什么水平?还有什么差距? 今天,我们就带着这些问题,一口气了解对垒英伟达的国产芯片,昇腾。 和英伟达"掰手腕" 目前昇腾最主力的产品叫"昇腾910"。但以往的昇腾芯片,更多是作为"备胎"使用的——因为美国断 供,英伟达、AMD最高端的芯片买不到,很多厂商只能硬着头皮用国产,而昇腾已经是国产芯片中的 佼佼者。 过去几年,昇腾其实主要用在AI"推理"环节,也就是模型训练好之后,用它来支持大模型生成内容、聊 天等应用环节。但模型训练?说实话——很少用国产芯片,原因也简单:单卡性能弱、生态不够用、系 统稳定性差。 但这一切,在2024 ...
AI算力需求涌向模型推理,国产芯片站上竞技台了
第一财经· 2025-05-28 15:22
2024年中国数据中心加速卡市场中,34.6%是国产算力,市场研究机构预计今年上半年国产算力占比应该会超四成。 刚刚结束的COMPUTEX电脑展上,英伟达CEO黄仁勋笑着对听众说,"你(芯片)买得越多,赚得越多。"引来一阵笑声。 这句话的背景是,全球科技厂商在AI热潮下继续重金投入建设数据中心或算力中心。黄仁勋在演示文档上写着,英伟达正在驱动全球万亿美元级别的企业 AI IT投资。 数据中心建设热潮下,现在看来,AI算力需求的变化与年初一些业内人士预计的不太一样。DeepSeek对训练算力资源的节约,并未让整体算力需求减少。 不过,还有一个变化发生了,随着DeepSeek推动AI走向应用,用于推理的AI芯片占比正在升高。 市场研究机构IDC中国副总裁周震刚告诉第一财经记者,2024年中国数据中心加速卡中已有半数以上是推理卡,DeepSeek出现后,今年推理芯片占比预计还 会增加。 这种芯片结构变化,可能会对AI芯片市场造成深远影响,特别是在中国市场。推理环节对AI芯片性能等的要求较低,国产AI芯片也可以使用,在英伟达出 口受到限制的情况下,可能促成国内AI芯片的组成发生变化。 周震刚透露,去年国内数据中心加速 ...
近一年有9所知名高校成立AI学院,AI学者称“不担心过热”
第一财经· 2025-05-09 22:49
高校AI学院成立潮 - 2024年起国内不少于9所知名高校成立人工智能相关学院或研究院,包括清华大学、上海交通大学、武汉大学、哈尔滨工业大学、香港科技大学等 [4] - 香港科技大学成立冯诺依曼研究院,聚焦具身智能、生成式AI、超级运算等五大领域,计划培训超100名博士生 [2] - 清华大学人工智能学院由图灵奖得主姚期智担任院长,研究方向包括"人工智能核心基础理论与架构"和"人工智能+X" [4] - 香港中文大学(深圳)、深圳大学、北京大学、中山大学等2024年相继成立AI学院,部分由院士或校长领衔 [4] 高校与AI产业联动 - 高校孵化的AI企业成为重要力量,如智谱AI、面壁智能、月之暗面等团队核心成员均来自北京智源研究院 [6] - 香港科技大学师生创办超1800家初创公司,孵化出大疆、思谋科技、云鲸智能等4家独角兽 [9] - 具身智能领域"大疆教父"李泽湘联合创立XbotPark机器人基地,孵化云鲸智能、海柔创新等企业 [7] - 商汤科技创始人汤晓鸥曾任香港中文大学教授,思谋科技创始人贾佳亚曾任腾讯优图实验室科学家 [7] 研究资源与区域优势 - 香港科技大学拥有较多英伟达H800计算卡资源,为研究院规模化提供硬件支持 [2] - 香港高校研究生态呈分散型,孵化企业以"小而精"为主,深圳因地理优势成为香港科研成果转化重要基地 [8][9] - 大湾区受益于香港科研辐射,英伟达在中国的研究中心有大量香港科技大学校友参与 [9] 学术与产业结合模式 - 高校教授创业案例增多,如清华大学汪玉发起无问芯穹、复旦大学漆远创立无限光年等 [6] - 科学家类型创始人占比达32%,技术早期阶段更依赖科研团队对技术边界的理解 [7] - 教授孵化+学生/产业人士运营被视作可行模式,需平衡学术研究与商业经验 [9]
成本降低20%!蚂蚁集团用国产芯片训练AI
国芯网· 2025-03-25 12:46
国芯网[原:中国半导体论坛] 振兴国产半导体产业! 不拘中国、 放眼世界 ! 关注 世界半导体论坛 ↓ ↓ ↓ 3月25日消息,据外媒报道,蚂蚁集团成功使用包括阿里巴巴和华为在内的国产芯片,结合混合专家 (MoE)机器学习方法,训练人工智能(AI)模型,成本降低约20%。 测试结果显示,该技术可媲美英伟达H800芯片的性能。虽然蚂蚁集团仍在使用英伟达芯片进行AI开 发,但其最新模型已主要依赖包括超威半导体(AMD)及中国国产芯片的替代方案。 对此,蚂蚁集团方面回应称,蚂蚁针对不同芯片持续调优,以降低AI应用成本,目前取得了一定的进 展,也会逐步通过开源分享。 业内观点认为,在美国对华高端芯片出口限制背景下,蚂蚁集团这一步意义重大,这说明中国基本已经 突破了美国的半导体制裁。 此外,蚂蚁集团开源Ling系列模型框架及训练策略,也可推动国产AI技术普惠化,降低中小企业和研究 机构入局门槛。 ***************END*************** 半导体公众号推荐 第二步:在公众号里面回复"加群",按照提示操作即可。 爆料|投稿|合作|社群 文章内容整理自网络,如有侵权请联系沟通 投稿 或 商务合作 请 ...