Workflow
GPU
icon
搜索文档
Forget Broadcom: Nvidia (NVDA) Is Still the Top Semiconductor Stock for 2027 and Beyond
The Motley Fool· 2026-08-23 17:10
核心观点 - 英伟达是当前及未来数年最值得投资的半导体股票,因其处于人工智能构建与使用的核心位置,而非仅处于硬件市场边缘 [1] 数据中心业务 - 英伟达数据中心业务是公司核心引擎,最近财年(截至2026年1月25日)季度数据中心收入为623亿美元,同比增长75% [2] - 预计该财年全年数据中心销售额约为1800亿美元 [2] - 超大规模云服务商和企业构建AI集群时,首先以英伟达平台为起点,再围绕其部署其他组件 [2] 技术平台与生态系统 - 英伟达平台不仅包含单一AI芯片,其Blackwell架构将数千亿晶体管、定制互连和大量内存整合为统一GPU,并扩展至GB200和GB300等机架级系统 [3] - 系统之上还有DGX SuperPODs、Grace CPU以及CUDA和TensorRT等开发者信赖的软件 [3] - 英伟达投资玻璃制造商、光纤供应商、网络合作伙伴和数据中心建设商,已向康宁等公司及数据中心合资企业投入数十亿美元,以推动整个生态系统扩张 [6] 市场地位与投资者心理 - 英伟达已成为许多投资者的默认AI股票,当听到新模型、新数据中心或新AI企业部署时,人们首先想到该股票 [5] - 分析师在讨论AI基础设施时通常首先提及英伟达,该股仍持有广泛买入评级,目标价显示当前水平有显著上涨空间 [5] - 这种关注虽可能带来波动,但也为公司带来稳定资本和严格审视,推动管理层持续交付 [5] 竞争与未来布局 - 博通等公司的定制ASIC正在特定工作负载中获取份额,预测数据显示GPU服务器约占AI服务器出货量的70%,ASIC服务器接近30% [8] - 英伟达正推出Blackwell Ultra和Rubin等新平台以处理推理、推理和代理式AI,表明公司在竞争对手追逐推理效率时并未停滞 [8] 投资逻辑 - 当云服务商或银行规划新AI系统时,英伟达通常是第一个被提及的公司 [9] - 其硬件、软件和参考设计仍定义着AI集群的形态,数据中心收入和积压订单表明客户愿意持续为这种领导地位付费 [9] - 英伟达销售AI工厂的核心,塑造开发者构建模型的方式,并沿整个基础设施链条布局 [10]
Nvidia stock in focus as earnings loom and GPU price hikes approach
Invezz· 2026-08-23 13:13
核心观点 - 英伟达股价上周大幅下跌,因交易员重新聚焦即将发布的财报,该财报将揭示其营收和盈利增长情况 [1] - 英伟达股价还将对GPU涨价消息做出反应,这可能在未来一段时间内提振其营收 [1] 股价与市场情绪 - 英伟达股价上周出现大幅下跌 [1] - 市场关注点转向即将发布的财报,以评估公司增长前景 [1] 业务与营收驱动 - GPU价格上涨的消息可能成为英伟达未来营收的正面催化剂 [1] - 涨价预期有望在可预见的未来提升公司收入 [1]
一文看懂GPU是怎样工作的
半导体行业观察· 2026-08-23 09:08
核心观点 - GPU性能瓶颈并非算术能力不足,而是内存带宽限制,算术运算成本低而数据传输成本高 [4][5] - 所有性能优化技术本质是提高每次内存读取的数据利用率或减少读取字节数 [43] - 语言模型推理中生成阶段受内存限制,预填充阶段受计算限制 [42][56] GPU架构与内存层级 - GPU设计为数千个简单算术单元共享控制器,而非CPU的少数复杂单元 [8] - GPU通过加载远超运行能力的工作量隐藏等待时间,而非缩短延迟 [14] - 线程束(warp)是32个线程的固定组,共享指令,内部分支会导致性能损耗 [11][12] - 内存层级包括线程级存储、片上暂存区(共享内存)、共享缓存(L2)、主内存(HBM) [19][20] - 每个流式多处理器(SM)拥有私有寄存器文件和共享内存,L2缓存和HBM由全芯片共享 [24][25] - GPU寄存器文件总大小与L2缓存相当,因需存储大量未完成线程状态 [28] 性能核心指标:算术强度 - 算术强度=每字节工作量,即每次内存读取执行的算术运算次数 [30] - 矩阵乘法中每个值被重用上千次,而逐元素运算每个值仅使用一次 [31] - H100 SXM5的盈亏平衡点为每字节295次运算(989 TFLOPS / 3.35 TB/s) [32] - H200因带宽提升至4.8 TB/s,阈值降至每字节206次运算 [32] - 低于阈值受内存限制,高于阈值受计算限制 [33][34] 语言模型推理性能分析 - 700亿参数模型生成一个词元需1400亿次运算和140 GB数据移动(16位精度) [37][39] - 每字节仅1次运算,远低于300的盈亏平衡点 [39] - 理论最低生成速度约每秒24个词元(140 GB / 3.3 TB/s) [40] - 预填充阶段因同时处理多个词元,每字节工作量大幅增加,转为计算密集型 [42] 优化技术分类 - 批处理:同时处理多个请求,每个权重被所有请求重用,增加每字节工作量 [44] - 融合操作:合并链式逐元素运算,减少主内存往返次数 [46] - 保持数据靠近内存:如FlashAttention将中间矩阵存储在片上内存 [47] - 量化:将权重从16位降至8位,字节数减半,生成上限翻倍 [48][49] - 顺序读取:线程束读取相邻地址时带宽利用率最高,分散读取可能浪费八倍数据 [50] 性能诊断方法 - 测量实际内存带宽利用率和算术吞吐量,与硬件峰值比较 [54] - 带宽接近上限而运算能力低:受内存限制,需减少数据移动 [54] - 运算能力接近上限而带宽低:受计算限制,可降低精度或改进算法 [54] - 两者都低:受调度开销限制,需减少操作数量或增大操作规模 [52][54] - 语言模型生成阶段在几乎所有配置中受内存限制 [54] 硬件趋势 - 算术能力增长速度远超内存带宽,不平衡每代加剧 [7] - 盈亏平衡点随硬件升级提高,旧硬件上受计算限制的工作负载在新硬件上转为内存限制 [55] - 减少数据移动的技术将持续获得价值,峰值算术性能数据最不具预测性 [55]
都在抢芯片公司
半导体行业观察· 2026-08-23 09:08
核心观点 - AI产业竞争从“抢芯片”转向“争抢芯片公司”,巨头通过股权、长约、资本投资深度绑定供应链,争夺未来产能、定制能力和系统级技术话语权 [1] 三类玩家上演抢芯大战 GPU大厂:用并购补全系统版图 - 英伟达与Groq签署非独家推理技术授权协议,获得LPU推理芯片技术并推出Groq 3 LPU产品 [4] - 英伟达参投光互联创业公司AyarLabs与Hark [4] - 英伟达向Ilya创办的AI实验室SSI开展战略投资,开放Vera Rubin计算平台以绑定前沿研发团队 [4] - AMD通过多笔并购叠加股权绑定业务,已收购AI软件厂商SiloAI、服务器系统厂商ZT Systems、存储近算企业MEXT [4] - AMD与推理芯片企业Taalas签署收购最终协议,加强AI推理技术布局 [4] 云厂商:用股权把产能写进合同 - 谷歌与博通续签长期供货协议,合作延续至2031年,覆盖TPU及配套网络组件 [5] - Marvell向谷歌授予潜在最大行权价值122亿美元的认股权证,扩大合作规模 [5][6] - Meta完成对Rivos的收购,将其RISC-V内核用于第三代自研芯片MTIA [6] - 2026年7月消息称Meta将把MTIA迭代订单交给三星2nm产线,潜在订单规模超过10万亿韩元 [6] - AWS战略押注Anthropic、推进自研Trainium3芯片,同时采购Cerebras晶圆级芯片,做多条算力路径布局 [6] 大模型公司:把自己绑进供应链深处 - Anthropic与谷歌、博通签下3.5GW的TPU算力协议,共同打造算力集群 [7] - Anthropic今年6月与美光达成合作,共同部署AI基础设施规模化落地 [7] - Anthropic今年8月宣布采购Fractile的AI ASIC芯片 [7] - OpenAI绑定AMD、采购Cerebras定制算力,联合博通推进代号Jalapeño的定制芯片项目 [7] 为何争相抢夺芯片公司 算力规划与产能建设周期错配 - 据高盛测算,2026年全球AI相关整体投资规模将突破1万亿美元 [9] - 大型云服务商在算力基础设施上的资本开支达到7250-7600亿美元区间 [9] - 算力需求按季度快速增长,供给释放按年计算,现货采购无法匹配3-5年算力规划 [9] - 与采购业绩挂钩的期权、长约、资本绑定成为锁定未来供给的重要工具 [9] 所有人都想抢到算力本身 - 2026年全球数据中心加速芯片市场,通用GPU依旧占据绝大部分市场份额,一卡难求 [9] - 即便是英伟达,同样需要争抢上游供应商 [9] 性能提升重心转向系统层面 - 摩尔定律逼近物理极限,单芯片性能提升空间收窄,芯片间协同效率重要性凸显 [10] - SEMI高管表示2026年推理相关AI基础设施支出占比已超过70% [10] - 定制芯片成本优势因推理业务负载特点被放大,企业需深度参与芯片设计定义 [10] 对地缘政治与单点供应链的恐惧 - HBM市场由三星、SK海力士、美光三家合计占据绝大部分市场份额 [10] - 高端2-3nm逻辑代工、CoWoS先进封装产能集中在少数厂商手里 [10] - 供应商良率、认证、地缘环境波动会直接冲击下游业务,搭建多条并行供应链成为战略选择 [10] 资本布局芯片企业值不值 商业利好 - 通过与芯片公司共同开发ASIC实现成本优化,Meta自研芯片替代外购通用GPU,充足算力需求摊薄研发与量产投入 [12] - 资本介入抢先锁定芯片与存储产能,变相抬高同行入局壁垒 [12] 潜在隐患 - 大量并购叠加百亿美元级别股权安排,拓宽企业管理边界,财务压力水涨船高 [12] - 芯片项目高度依赖核心研发团队,收购后核心人才流失会大幅降低前期投入价值 [12] - 高度定制化芯片不具备通用GPU的灵活二次流转空间,业务需求不及预期时可能转化为资产负担 [12] - 上下游互相投资、互相采购带来局部泡沫风险 [12] 下一个争夺高地在哪里 先进制程与先进封装产能 - GPU、TPU、推理ASIC等各类定制芯片争抢有限封装产能,先进封装成为制约AI芯片交付的关键卡点 [13] - 高端ABF封装基板、高速PCB供给紧张,部分高端物料交货周期超过半年 [13] - 芯片编译、驱动、测试等软件工具链价值持续凸显 [13] 高速互联与光互联体系 - 单芯片算力持续提升,芯片间数据传输成为集群性能主要短板 [14] - 从传统可插拔光模块走向硅光、CPO共封装光学路线,主导下一代互联规格决定计算集群运行效率 [14] - 高速激光器良率、光纤阵列组件、光电混合封装存在制造壁垒,光互联硬件扩产节奏影响大规模落地预期 [14] 内存墙瓶颈 - “内存墙”让大量算力消耗在数据搬运而非实际计算,存算一体、近内存计算被视为破局方向 [14] - 落地需要配套特殊存储工艺、新型封装方案、全新软件编译器协同适配 [14] 底层物理基础设施 - 参照IEA数据,专门承载AI业务的数据中心用电量2025年约155太瓦时,预计2030年增长至465太瓦时以上,五年规模扩大三倍以上 [15] - 新一代AI机柜单机柜功率密度大幅抬升,液冷、高压供电、稳定电网配套成为大型智算集群落地硬性门槛 [15] 写在最后 - 谁握有产能与设计能力,谁就握有定价权 [17] - 资本能收购芯片团队、签下长约,却无法绕开制造工艺、人才积累与真实业务需求的检验 [17] - 定制化项目陆续落地投产后,才能评判是在抄底产业未来还是为行业泡沫加固 [17]