" 算力利用率突破 70%、跨卡延迟低至亚微秒级，华为算子技术 如何重新定义硬件性能？ " 作者丨李希 AMLA × 融合算子 × SMTurbo —— 让大模型推理速度与能效双重革命 基于昇腾算力，华为团队本次发布了三项重要的硬件亲和算子技术研究： 针对Decode阶段的MLA 计算，华为团队提出了AMLA（Ascend MLA）算子，通过数学等价变化和硬件 亲和的深度优化， 释放昇腾芯片澎湃算力 。具体而言，通过 对浮点数二进制编码的重解析 ，把复杂的乘 法运算变成简单的加法操作，AMLA实现了基于 存内计算 的变量更新，充分利用算力的同时减少数据搬 运；结合一系列基于昇腾硬件的计算流程及流水优化手段，进一步提升算子的整体性能。当前AMLA算法 的Attention 算子充分发挥昇腾硬件的计算能力，平均算力利用率达到55%，最高可达71%，优于 FlashMLA公开的结果。 大模型推理的 "乐高积木"：算子为何如此重要？ 算子是 AI 大模型执行计算的 "原子级工具"，如同乐高积木中的基础模块，负责从加减乘除到特征提取的 一切核心操作。它们不仅是模型的效率引擎，更是硬件性能的放大器 —— 通过标准化设计、 ...

机器之心发布 机器之心编辑部 现如今，随着参数规模的指数级增长，大语言模型（LLM）的能力边界不断被打破，AI 的智力正在经历快速跃迁。但随之而来的是，大模型在落地过程中面临着 一系列推理层面的难题，比如推不动、算不起、部署慢，导致推理成本高昂，性能冗余浪费严重。 因此，大模型推理的「速度」与「能效」成为所有算力厂商与算法团队绕不开的核心命题，如何让它们真正「跑得快、用得省」亟需全新的解法。这显然不仅仅 是工程挑战，更要在承接大模型推理压力的同时，在能效、延迟、成本等多方面实现可控与优化。 在这一背景下，华为团队和昨天一样（参考： 帮大模型提速 80%，华为拿出昇腾推理杀手锏 FlashComm，三招搞定通算瓶颈 ），用数学补物理，给出了一份深度 融合软硬件的系统性方案！ 他们基于昇腾算力，正式发布了三项重要的硬件亲和算子技术研究，带来了大模型推理速度与能效的双重革命 。具体包括如下： 可以看到，华为团队着力通过对大模型推理中关键算子的重构优化，实现能效、多卡协同和速度三大维度的全面突破。 作为 AI 大模型执行计算的「原子级工具」，算子如同乐高积木中的基础模块，负责从加减乘除到特征提取的一切核心操作。它们不 ...

首创 MLLM 与 DiT 深度融合，阶跃星辰发布开源图像编辑模型 Step1X-Edit。 整理 | 梦依丹 出品丨AI 科技大本营（ID：rgznai100） 在图像编辑领域，开源模型正在加速追赶顶级闭源模型。近日，阶跃星辰正式发布并开源了图像编辑大模型 Step1X-Edit，在性能上达到当前开源体系 的 SOTA 水平，且性能可与 GPT-4o 与 Gemini 2 Flash 等闭源模型相媲美。 GEdit‑Bench 中每个子任务的 VIEScore，所有结果均由 GPT‑4o 评估 Step1X-Edit 由 19B 参数构成（7B 多模态语言模型 MLLM + 12B 扩散图像 Transformer DiT），具备语义精准解析、身份一致性保持和高精度区域级 控制三项核心能力。模型支持包括文字替换、风格迁移、材质变换、人物修图在内的 11 类高频图像编辑任务，能够灵活应对复杂的编辑指令。 在技术路径上，Step1X-Edit 首次在开源体系中实现了多模态语言理解与扩散图像生成的深度融合。模型能够解析参考图像与用户编辑指令，提取潜在 嵌入，并与扩散式图像解码器协同工作，生成符合预期的高质量编辑图 ...

开源策略与趋势 - DeepSeek宣布"开源周"计划，连续5天开源5个代码库，包括训练与推理工具，比技术报告和模型权重更深度[5] - 开源正成为行业趋势，部分原闭源公司开始发布首批开源模型，OpenAI CEO称"不开源是站在历史错误一边"[5] - DeepSeek通过详细技术报告（如V3达50多页）建立行业声誉，V3作为基座模型涵盖预训练、微调等完整流程[13][15][17] 开源技术层次 - 大模型开源分为四个层次：技术报告、模型权重（HuggingFace发布）、推理框架（如vLLM）、训练框架（如字节Verl）[19][26] - vLLM推理框架GitHub星数近4万，有840多位贡献者，基于PagedAttention论文优化[20][25] - 训练框架开源较少，因涉及复杂代码规范，字节开源的Verl框架支持强化学习算法如PPO和分布式策略[26][27] 工程优化与效率 - DeepSeek创新聚焦效率提升：V3采用多令牌预测、FP8低精度训练、优化流水线并行减少闲置计算单元[40] - FlashMLA开源项目实现算子层优化，类似FlashAttention通过GPU指令重组提升矩阵运算效率[45][46][48] - 工程实现难度高，如在线训练需同时处理生成与模型更新，对底层框架能力要求极高[49][50][51] 商业考量与行业影响 - 开源策略差异源于商业模式：非盈利机构Ai2开源最强模型+数据集，商业公司可能保留核心模型[54][56] - 开源可能重构行业生态，成为技术标准，但未来AI能力极强时开源最强模型或引发滥用风险[55][59] - 公司转向开源需额外投入：代码规范（如阿里代码规约）、适配外部框架（如ESFT适配耗时一周多）[36][34][35] 社区与开发者价值 - GitHub社区活跃度可通过星数（vLLM近4万）、Issues数（数千）、PR数（数百）衡量[20][25] - 开源项目需持续维护，如DeepSeek计划整合5个库功能并修复潜在bug[52] - 开发者诉求多样，包括支持FP8精度、NPU芯片适配等，反映实际应用场景需求[52]