核心观点 - 提出两种新型注意力机制GTA和GLA，在保持模型性能不变的情况下，解码速度和吞吐量最高提升2倍，显著优化长上下文推理能力[1][2][5] - GTA是GQA的有效替代品，KV缓存用量减少约50%[2][3][25] - GLA是MLA的实用替代品，解码速度更快，某些情况下比FlashMLA快2倍[2][3][29] 注意力机制优化 - 针对推理阶段的内存冗余、计算低效、长上下文瓶颈等问题重新设计注意力机制[8] - GTA通过参数绑定实现更彻底的KV重复利用，减少内存传输次数[15][16] - GLA采用双层结构，提高硬件效率并保持并行可扩展性[17][18] 实验验证 - 在四种规模模型(183M-1471M)上测试，GTA在中大型模型上优于GQA，GLA与MLA质量相当[21][22] - GTA相比GQA减少约50%的KV缓存，验证参数绑定+分组重用的有效性[25][26] - GLA在序列长度从1K增加到64K时，解码速度比FlashMLA快2倍[29] - 在DeepSeek Coder V2 Base模型上，GLA-8在长上下文处理中吞吐量明显高于MLA[33] 作者背景 - 三位作者均来自普林斯顿大学，Tri Dao因提出Mamba架构和FlashAttention系列工作闻名学界[38][44][46][47] - Tri Dao是生成式AI初创公司Together AI的首席科学家[44] - 其他作者Ted Zadouri和Hubert Strauss在机器学习和Transformer优化方面有丰富经验[39][40][41][42][43]

文章核心观点 - 2025年2月24 - 28日DeepSeek进行Infra开源周，其Infra工程优化能力国内领先，通过五大Infra核心技术构建大模型 - 算力全栈协同体系，实现大模型开发成本大幅压缩；成本及算力测算显示其毛利率水平国内领先；Infra优化能力推动大模型平权，对推理算力需求有积极影响，AI应用商业化更取决于模型能力和工程优化 [2][3] DeepSeek开源周：Infra层优化能力行业领先 全栈协同体系 - DeepSeek开源周深度适配GPU特性，通过五大Infra核心技术构建大模型 - 算力全栈协同体系，以“单卡算力提升 - 核心计算加速 - 通信延迟降低 - 多卡协作优化 - 数据流高速供给”为脉络形成优化闭环，提升千亿参数模型训练、推理效率，压缩开发成本 [2][6] 每日成果 - **Day1**：发布为英伟达Hopper GPU设计的MLA解码内核FlashMLA，实现MoE模型推理加速，针对变长序列处理等场景优化，核心创新含分页KV缓存、分块调度与内存优化、原生稀疏注意力，实测在H800 SXM5平台有顶尖性能表现 [8] - **Day2**：发布DeepEP，为MoE模型和专家并行设计的专用通信库，支持FP8低精度通信，有高效优化的all - to - all通信、支持NVLink和RDMA技术等特点，实现训练和推理高吞吐、低延迟 [9] - **Day3**：发布DeepGEMM，针对FP8通用矩阵乘法打造，支持密集GEMM和MoE GEMM，采用CUDA核心两级累加机制，核心优化包括线程束优化、利用Hopper TMA特点、特殊优化等，在H800上最高可实现2.7倍加速 [10] - **Day4**：开源DualPipe、EPLB和Profile - data。DualPipe是双向流水线并行算法，通过重叠计算与通信阶段提升训练性能；EPLB是专家并行负载均衡器，用冗余专家策略和组限制专家路由解决负载不均衡问题；Profile - data展示通信计算重叠策略和低级实现细节 [13][14][16] - **Day5**：开源3FS和Smallpond。3FS是高性能分布式文件系统，利用SSD和RDMA网络，在性能、可用性和多样化工作负载方面有优势；Smallpond是基于DuckDB和3FS的轻量级数据处理框架，具备高性能、易操作、可扩展特点 [21][22] DeepSeek成本及算力测算：毛利率水平领先 成本与毛利率测算 - DeepSeek 3月1日公开模型推理效率和成本，过去24小时DeepSeek V3和R1推理服务峰值占用278个节点，平均占用226.75个节点，处理608B输入Token和168B输出Token，总体GPU hours成本8.7万美元；以模型API定价测算收入、GPU hours租赁成本为核心成本项，综合毛利率在71 - 84.5%，处于行业领先水平 [24] 利润率对比 - 理想情况计算的DeepSeek毛利率较高，但实际因部分Token不收费，整体毛利率会降低；海外OpenAI和Anthropic API服务按仅扣GPU Hours口径计算毛利率也领先；其他云厂商为保证稳定性提供冗余算力，集群负载率难达DeepSeek水平，底层优化不足，会损失部分毛利率 [25] 对产业影响 - 推理算力方面，AI infra进步提升算力利用效率，推动行业繁荣，多模态、Manus等Agent应用会激发更大推理算力需求；AI应用方面，模型推理成本降低，商业化更取决于模型能力迭代和合适场景打磨，2C看好互联网大厂产品化进展，2B关注企业服务厂商客户场景磨合，期待2025年出现更多“爆款”AI应用 [26]

DeepSeek开源策略影响 - DeepSeek成立于2023年，由幻方量化孵化，专注于大语言模型开发，已发布DeepSeek Coder、DeepSeek LLM、DeepSeek V3、DeepSeek R1等多款产品 [2] - DeepSeek V3训练成本仅557.6万美元，性能比肩GPT 4o和Claude-3.5-Sonnet，但成本远低于GPT 4o [2] - DeepSeek R1训练成本仅为同类模型的1/30，性能达到OpenAI o1水平，竞技场评分为1362分 [2][3] - 开源周期间发布FlashMLA、DeepEP、DeepGEMM等代码库，优化DualPipe、EPLB并行策略和3FS文件系统，提升算力效率 [5] - FlashMLA在H800 GPU上实现3000GB/s内存带宽和580TFLOPS计算性能，突破硬件极限 [6] 全球AI大模型进展 - DeepSeek R1发布后7天内用户增长1亿，周活跃用户环比增长超750%，远超Kimi的28%增速 [7] - 武汉市出台政策支持AI关键技术突破，单个项目最高资助2000万元 [7] - xAI发布Grok 3，计算能力提升10倍，支持图像分析和多模态处理，并免费开放 [8] - OpenAI发布GPT-4.5，输入/输出价格达75/150美元/百万token，为GPT-4o的30倍，在事实性问答表现优异但学术推理不及Claude 3.7 Sonnet和DeepSeek R1 [9] - GPT-4.5显示单纯扩大模型规模未必提升全面性能，OpenAI计划将GPT-5转向模型架构优化和功能融合 [10] AI大模型投融动态 - OpenAI拟融资400亿美元，头部企业仍主导资本流向 [14] - 低成本高性能模型改变估值逻辑，中小厂商可通过垂直领域创新获得机会 [14] - 投资重心转向AI应用层（金融、医疗、法律等）和Agent开发，2025年国内亿元级融资包括极睿科技（近1亿人民币B+轮）、源络科技（数亿人民币A轮）等 [15][16]

报告行业投资评级 - 增持（维持） [6] 报告的核心观点 - 本周（2.24 - 2.28）中信一级传媒板块下跌 8.06%，在市场影响下有所回调 [1][10] - 2025 年传媒弹性方向看好 AI 应用及并购重组，AI 应用聚焦新应用映射投资及部分较成熟应用数据跟踪，并购重组重点关注国企方向；稳健方向聚焦出版及游戏 [1] - 《哪吒 2》带动国潮 IP 热度提升，IP 变现产业链值得关注，潮流玩具、影视内容等方向有机会 [1] 根据相关目录分别进行总结 投资聚焦 行情概览 - 本周传媒板块下跌 8.06%，涨跌幅前三板块为钢铁（2.96%）、建材（1.98%）、房地产（1.86%），后三为计算机（ - 8.01%）、传媒（ - 8.06%）、通信（ - 9.62%） [10] - 传媒板块本周涨幅前五为宝通科技（57.6%）、天舟文化（21.6%）等，跌幅前五为光线传媒（ - 14.5%）、浙文互联（ - 14.9%）等 [13] - 教育&人服板块本周涨幅前五为高途集团（31.5%）、同道猎聘（16.8%）等，跌幅前五为佳发教育（ - 12.7%）、国新文化（ - 12.8%）等 [14] - 重点港股&中概股上市公司一周走势：泡泡玛特（ - 3.6%）、快手（ - 13.4%）等 [14] 本周子板块观点 - 资源整合预期关注中视传媒、国新文化等 [2][18] - AI 关注奥飞娱乐、汤姆猫等 [2][18] - 游戏建议关注神州泰岳、恺英网络等 [2][18] - 国企关注慈文传媒、皖新传媒等 [2][18] - 教育关注学大教育、行动教育等 [2][18] - 港股关注腾讯控股、泡泡玛特等 [2][18] 重点事件回顾 AIGC + 游戏 - 2 月 27 日 OpenAI 发布 GPT - 4.5，计算效率比 GPT - 4 提高 10 倍以上，对人类意图理解更深刻，在协助写作和设计方面表现出色 [3][21] - 2 月 28 日 DeepSeek“开源周”收官，期间开源 Fire - Flyer 文件系统等多样化内容 [4][21] - 2 月 26 日阿里开源视频生成模型 Wan2.1，攻克静态图像文字生成，支持在视频中合理生成文字 [5][21] 子板块数据跟踪 游戏 - 近期热门重点游戏包括《问鼎三国 - 策略国战手游》、《剑灵 2》等 [23] - 部分游戏榜单排名有变化，如腾讯《英雄联盟》排名 15（↓5），《金铲铲之战》排名 5（↑3）等 [24] 院线 - 内地电影市场周总票房（2.24 - 2.28）约 4.31 亿元，票房排名前三为《哪吒之魔童闹海》（3.1 亿）、《唐探 1900》（0.42 亿）、《您的声音》（0.23 亿） [24][26] 影视视频 - 2025 年 2 月 24 日至 27 日全平台剧集收视播放量，《难哄》排名第一，全网热度 84.6；综艺《火星情报局第七季》排名第一，全网热度 72.4 [26][27][28]

成本利润率披露 - 公司首次披露成本利润率关键信息 假定GPU租赁成本为2美元/小时 日总成本为87072美元 若所有tokens按DeepSeek-R1定价计算 理论日收入达562027美元 成本利润率为545% [1][3] - 实际收入低于理论值 因V3定价更低且存在夜间折扣 收费服务仅占部分负载 [4] 资源利用与定价策略 - 最近24小时节点占用峰值278个 平均22675个 定价策略为014美元/百万输入tokens（缓存命中） 055美元/百万输入tokens（缓存未命中） 219美元/百万输出tokens [3] - 采用弹性资源调度 白天全节点部署推理 夜间释放节点用于训练/研究 优化目标为提升吞吐量与降低延迟 [4][5] - 公司强调定价原则为"不贴钱也不赚暴利" 在成本基础上保持适度利润 此前员工透露API服务利润率超50% [5] 行业争议与回应 - 潞晨科技创始人尤洋曾称DeepSeek API业务月亏4亿元 主要因测试速度与实际场景差距 机器利用率波动及不稳定性 [2][5] - 公司通过公开资源利用数据间接回应质疑 证明弹性伸缩可避免资源空置 [5] - 业内人士认为在线推理领域需持续吸引用户并保持技术领先才能盈利 商务付费能力与应用场景同样关键 [6] 开源周技术成果 - 公司结束为期5天的开源周 累计开源5个代码库 包括FlashMLA（Hopper GPU优化解码内核） DeepEP（MoE模型训练推理通信库） DeepGEMM（支持密集与MoE布局的即时编译库） Optimized Parallelism Strategies（大规模训练效率优化）及Fire-Flyer文件系统（3FS）与Smallpond数据处理框架 [7][8][9][10][11] - 开源技术被评价为从"运营驱动"转向"价值驱动" 推动智能未来创新 [12] 用户规模与行业影响 - DeepSeek App累计下载量超11亿次 周活跃用户峰值近9700万 [12] - 开源生态发展被视为中国技术创新的关键力量 公司实践展示开源硬件对技术自由的促进作用 [12]

开源周活动总结 - 国内AI明星企业深度求索(DeepSeek)在2月24日至28日举办了为期五天的"开源周"活动 [1][3] - 活动期间共发布了五个开源项目，涵盖计算、通信和存储等多个技术领域 [3] - 中信证券研报指出，此次开源活动有望进一步催化AI+主题，带动行业应用发展和算力需求增长 [7] 开源项目详情 - 2月24日：开源FlashMLA代码库，针对Hopper GPU优化的高效MLA解码内核，已投入生产 [4] - 2月25日：开放DeepEP通信库，支持MoE模型训练和推理的全对全通信，兼容FP8低精度运算 [4] - 2月26日：开源DeepGEMM库，专为FP8通用矩阵乘法设计，支持普通和MoE分组的GEMM [5] - 2月27日：一次性开源DualPipe工具、EPLB负载均衡器及性能分析数据集 [5] - 2月28日：开源3FS数据访问助推器 [6] API价格调整 - 2月25日恢复API充值功能，同时进行价格结构性调整 [8][9] - deepseek-chat(V3模型)：输入tokens 2元/百万，输出tokens 8元/百万 [9] - deepseek-reasoner(R1模型)：输入tokens 4元/百万，输出tokens 16元/百万 [9] - 2月26日推出错峰优惠策略 [10] - 每日00:30-08:30优惠时段 [10] - V3模型价格降至50%，R1模型降至25% [10]

开源策略与趋势 - DeepSeek宣布"开源周"计划，连续5天开源5个代码库，包括训练与推理工具，比技术报告和模型权重更深度[5] - 开源正成为行业趋势，部分原闭源公司开始发布首批开源模型，OpenAI CEO称"不开源是站在历史错误一边"[5] - DeepSeek通过详细技术报告（如V3达50多页）建立行业声誉，V3作为基座模型涵盖预训练、微调等完整流程[13][15][17] 开源技术层次 - 大模型开源分为四个层次：技术报告、模型权重（HuggingFace发布）、推理框架（如vLLM）、训练框架（如字节Verl）[19][26] - vLLM推理框架GitHub星数近4万，有840多位贡献者，基于PagedAttention论文优化[20][25] - 训练框架开源较少，因涉及复杂代码规范，字节开源的Verl框架支持强化学习算法如PPO和分布式策略[26][27] 工程优化与效率 - DeepSeek创新聚焦效率提升：V3采用多令牌预测、FP8低精度训练、优化流水线并行减少闲置计算单元[40] - FlashMLA开源项目实现算子层优化，类似FlashAttention通过GPU指令重组提升矩阵运算效率[45][46][48] - 工程实现难度高，如在线训练需同时处理生成与模型更新，对底层框架能力要求极高[49][50][51] 商业考量与行业影响 - 开源策略差异源于商业模式：非盈利机构Ai2开源最强模型+数据集，商业公司可能保留核心模型[54][56] - 开源可能重构行业生态，成为技术标准，但未来AI能力极强时开源最强模型或引发滥用风险[55][59] - 公司转向开源需额外投入：代码规范（如阿里代码规约）、适配外部框架（如ESFT适配耗时一周多）[36][34][35] 社区与开发者价值 - GitHub社区活跃度可通过星数（vLLM近4万）、Issues数（数千）、PR数（数百）衡量[20][25] - 开源项目需持续维护，如DeepSeek计划整合5个库功能并修复潜在bug[52] - 开发者诉求多样，包括支持FP8精度、NPU芯片适配等，反映实际应用场景需求[52]

DeepSeek开源的影响 - DeepSeek开源后，中腰部AI公司和本土芯片公司受益显著，53AI创始人杨芳贤表示存量客户中一半以上将基座模型切换到DeepSeek，客户多为中大型民营企业 [1] - AI应用创业热度提升，芯片公司合作需求在春节后环比增长两倍 [1] - 大模型"六小虎"商业模式受到冲击，面临开源与不开源的两难选择 [1][2] DeepSeek开源的具体行动 - DeepSeek宣布"开源周"计划，已开源4个代码库（FlashMLA、DeepEP、Deep GEMM、Optimized Parallelism Strategies），涉及大模型推理、MoE模型和FP8计算性能优化 [3][7] - 开源代码优化算法，将GPU算力"榨取"到极致，降低中小开发者构建高性能模型的成本 [7] - DeepSeek相关人员低调出席全球开发者先锋大会（GDC）闭门会，时间点与"开源周"吻合 [3][10] 行业受益者分析 - 芯片公司如燧原、沐曦、天数、智芯、摩尔线程、壁仞等可更多介入训练和推理业务 [7] - 基础层硬件公司和一体机厂商受益，冯博比喻"谁不给DeepSeek配一体机，就相当于孩子上大学不给配电脑" [7] - AI中间层公司（如53AI）和应用层公司需求增长，客户询问接入DeepSeek已成为标配 [7][8] DeepSeek的战略意图 - DeepSeek可能对标安卓生态，杨芳贤认为"OpenAI可能是'IOS'，而DeepSeek就是'安卓'" [4][10] - 开源计划助长行业开源风气，迫使部分厂商跟进开源，如百度宣布即将开源文心大模型 [3][10] - DeepSeek官方API服务仍由自建服务器支持，商业化问题可能成为下一挑战 [10] 国际市场反应 - DeepSeek开源后，美股七大科技巨头市值蒸发约1.4万亿美元，英伟达股价收跌2.8% [5] - 黄仁勋表示DeepSeek会加速AI采用，但后期训练和推理仍需大量计算资源 [5] - 行业人士认为国产芯片（如昇腾）可支持推理算力需求，DeepSeek并不缺资源 [5]

DeepSeek开源动态 - 开源周第三天宣布Optimized Parallelity Strategies，旨在提高计算效率、减少资源浪费并最大化系统性能，通过任务分配、资源协调和通信优化实现高效并行执行 [2][3] - 开源周第四天再度发布优化并行策略，包括DualPipe、专家并行负载均衡器(EPLB)及性能分析数据，需根据任务类型、数据规模和硬件环境灵活选择 [5] - 此前开源的DeepEP在20分钟内获得超1000个GitHub Star，该库为MoE模型提供Expert Parallelism通信基础，支持FP8低精度计算并优化非对称带宽转发场景 [5] - 连续开源FlashMLA（Hopper GPU高效译码内核）、DeepGEMM（支持稠密/MoE模型的FP8计算库）等工具，强化AI模型训练与推理支持 [9] 英伟达技术突破 - 开源首个Blackwell架构优化的DeepSeek-R1-FP4模型，推理速度达21,088 token/秒（较H100提升25倍），每token成本降低20倍 [7][8] - FP4量化技术将Transformer线性算子权重压缩至4位，显存需求减少1.6倍，在MMLU基准测试中达到FP8模型99.8%性能 [7][8] - 结合TensorRT-LLM部署，需8颗B200 GPU实现张量并行，供应商可提供每百万token 0.25美元的低成本服务 [8] 商业策略调整 - 北京时间每日00:30-08:30下调API价格，DeepSeek-V3降至原价50%，DeepSeek-R1低至25%（降幅75%），鼓励夜间资源利用 [6]