Workflow
AMLA
icon
搜索文档
华为的三个黑科技,要颠覆AI计算?
虎嗅APP· 2025-05-23 19:47
大模型技术发展现状 - 主流MoE架构大模型存在硬件成本高、效率低等结构性问题,中国企业面临芯片堆砌与效率挖掘的挑战 [1] - 华为作为智能基础设施提供商,通过数学算法和工程积累为DeepSeek提升效率及用户体验,探索差异化技术路径 [1] - 虎嗅推出《华为技术披露集》系列,首次全面披露超大规模MoE模型推理部署技术细节,旨在推动昇腾生态发展 [1] 昇腾算子优化技术 - 算子是AI大模型的核心计算单元,华为开源三大硬件亲和算子技术(AMLA、融合算子、SMTurbo),实现效率与能效双重突破 [3][4][5] - AMLA通过数学重构将乘法转为加法运算,算力利用率提升至71%,优于FlashMLA公开结果 [7][9] - 融合算子优化实现硬件资源协同调度,通过并行度优化、冗余数据消除和数学重构,显著提升模型推理性能 [11][12] - SMTurbo技术实现384卡内存共享,跨卡访存延迟降至亚微秒级,访存吞吐提升20%以上 [14] 技术应用与未来方向 - AMLA技术将扩展至KVCache量化和全量化场景,进一步拓宽应用范围 [17] - 融合算子优化将探索更多模型架构适配,推动大语言模型在昇腾硬件的高效推理 [17] - SMTurbo将结合业务场景优化流水设计,在DeepSeek dispatch与combine场景中实现大BatchSize收益 [17] 行业影响与案例 - 华为与DeepSeek合作的技术方案在推理性能上表现优异,引发行业关注 [20][22] - 华为通过技术创新解决大模型推理效率瓶颈,推动行业突破"服务器繁忙"等体验问题 [22][23]
算芯合一!华为披露昇腾体系大模型核心算子设计细节
雷峰网· 2025-05-23 18:01
华为算子技术重新定义硬件性能 - 公司发布三项硬件亲和算子技术研究:AMLA、融合算子优化、SMTurbo,旨在提升大模型推理速度与能效 [2][3] - 算子被描述为AI大模型的"原子级工具",通过标准化设计、硬件深度适配与复用机制放大芯片性能 [2] - 技术开源标志着算子优化的"终极形态",可显著提升芯片处理海量数据的能力 [2] AMLA技术突破 - 通过数学等价变化重构浮点运算,将复杂乘法转换为加法,算力利用率最高达71% [3][4][6] - 采用浮点数二进制编码重解析技术,实现存内计算变量更新,减少数据搬运 [6] - 当前Attention算子平均算力利用率55%,优于FlashMLA公开结果 [6] 融合算子优化技术 - 基于三大设计原理:硬件单元并行度优化、冗余数据搬运消除、数学等价重构计算流 [9] - 通过指令级流水编排实现计算耗时相互掩盖,构建高速缓存直通数据通道 [9] - 在DeepSeek V3/R1大模型实践中实现大幅性能提升 [9] SMTurbo低延迟通信 - 支持384卡规模原生Load/Store语义,跨卡延迟进入亚微秒级 [11] - SMTurbo-CPP技术并行读写方向,提升昇腾芯片每线程访存吞吐20%以上 [12] - 共享内存集合通信成为稀疏模型推理的关键能力 [11] 技术未来发展方向 - AMLA将扩展至KVCache量化和全量化场景的MLA算子优化 [14] - 融合算子技术将探索更多模型架构应用,推动大语言模型高效推理 [14] - Load/Store优化将结合业务流水设计,在大BatchSize场景实现收益 [14] 相关技术进展 - FlashComm技术实现模型推理"单车道变多车道" [17] - 超大规模MoE模型推理优化技术MTP调度提速10倍 [18] - OmniPlacement技术提升昇腾推理系统吞吐10% [19]
Purple(PRPL) - 2025 Q1 - Earnings Call Transcript
2025-05-07 05:32
Purple Innovation (PRPL) Q1 2025 Earnings Call May 06, 2025 04:30 PM ET Company Participants Stacy Turnof - EVP - Strategic Situations & Investor RelationsRobert DeMartini - CEO & DirectorTodd Vogensen - Chief Financial OfficerBobby Griffin - Managing Director Conference Call Participants Bradley Thomas - Managing Director & Equity Research AnalystDan Silverstein - Equity Research AnalystBrian Nagel - MD & Senior Analyst - Consumer Growth & eCommerceNone - Analyst Operator Ladies and gentlemen, thank you fo ...
Purple(PRPL) - 2025 Q1 - Earnings Call Transcript
2025-05-07 04:30
Purple Innovation (PRPL) Q1 2025 Earnings Call May 06, 2025 04:30 PM ET Speaker0 Ladies and gentlemen, thank you for standing by. My name is Desiree, and I will be your conference operator today. At this time, I would like to welcome everyone to the Purple Innovation First Quarter twenty twenty five Earnings Call. All lines have been placed on mute to prevent any background noise. After the speakers' remarks, there will be a question and answer I would now like to turn the conference over to Stacy Turnoff. ...
上海“五一”假日共接待游客1650.06万人次 住宿业表现亮眼
中国新闻网· 2025-05-05 21:15
旅游行业表现 - 上海"五一"假期共接待游客1650 06万人次 同比增长1 61% [1][3] - 全要素旅游交易总金额达201 1亿元 同比增长10 20% [1] - 宾旅馆客房出租率73% 同比提升6 5个百分点 [1] 住宿业驱动因素 - 夜游产品显著延长消费时间 金山沙滩烟花秀带动周边酒店入住率达87% 金山嘴渔村民宿入住率92% [3] - 乡村古镇推出国潮新玩法 提升近郊到客率和过夜率 [3] - 消费券政策形成叠加效应 "乐游上海"单日核销金额150万元创纪录 松江12家酒店出租率72 63% 同比增10个百分点 [4] 文娱消费亮点 - 全市举办660场营业性演出 观众74万人次(同比+25 91%) 票房1 63亿元(同比+59 41%) [4] - 万人规模大型演出14场 包括静安戏剧节/爵士音乐节/芒果音乐节等 [4] - 米哈游"星铁LIVE"演唱会吸引3万游戏玩家来沪 人均消费超3000元 [5]
集结首发首展!重庆渝中“五一”消费好戏连台
搜狐财经· 2025-05-01 12:10
文章核心观点 重庆市渝中区以“首发经济”为引擎,构建多元首展首秀首发立体矩阵,打造文化潮流盛宴,推动商圈升级和消费提质,未来将以“首发经济”做靓“渝中名片” [1][6] 分组1:“五一”假期渝中区首展情况 - “五一”首日teamLab FuturePark共创未来园重庆首展将在大都会东方广场亮相,国际跨域艺术团队teamLab以“共创”为理念呈现热门作品,带来沉浸式数字互动新体验 [1] - 童年回忆“数码宝贝·永远的青春”沉浸式主题展西南首展在龙湖重庆时代天街“登陆”,展出原画手稿、复刻经典场景并搭配限量周边 [3] - PARK108国泰优活城市广场举办“春野回声”三毛式主题生活展,公开三毛过往生活记录等珍贵资料 [5] - 重庆本土摄影艺术家戴小兵—「须弥国」大足石刻艺术摄影展在重百大楼展出未开放石窟“神秘面貌” [5] - 重庆印象城引进萌系短剧打造“动物乐园”原版IP展,实现虚拟流量到实体消费导流 [5] - 游戏金铲铲之战联合艺术家团队在贰厂文创公园以“游戏 + 艺术”跨界玩法重构空间叙事 [5] - 山城巷举办结合参与式等共创展,从个体维度解构重庆精神 [5] 分组2:“五一”前后渝中区首秀、首发情况 - 重庆百货联合比音勒芬打造城市时尚大秀,携手英国插画艺术家推出联名城市快闪 [6] - Air Jordan在重庆来福士新品重庆独家首发 [6] - 重百自营黄金品牌“宝元通”限量首发城市限定金条、金贴 [6] - 大融汇携手四川美术学院带来2025夏季发布秀,22家品牌发布四大夏日主流系列 [6] - Hazzys(哈吉斯)时尚快闪、歪瓜文化的蜡笔小新主题快闪等限时开放 [6]
Purple(PRPL) - 2024 Q4 - Earnings Call Transcript
2025-03-14 13:36
Purple Innovation (PRPL) Q4 2024 Earnings Call March 14, 2025 01:36 AM ET Company Participants Stacy Turnof - Senior Vice PresidentRobert DeMartini - CEO & DirectorTodd Vogensen - Chief Financial OfficerBobby Griffin - Managing Director Conference Call Participants Matthew Koranda - MD & Senior Research AnalystBrian Nagel - MD & Senior Analyst - Consumer Growth & eCommerceJeremy Hamblin - Senior Research Analyst Operator Thank you for joining Purple Innovation's Fourth Quarter twenty twenty four Earnings Ca ...