NPU,大有可为
半导体行业观察·2025-08-28 09:14
AI推理市场趋势 - 全球AI推理市场规模预计从2024年106亿美元增长至2030年255亿美元 年均增长率达19% [2] - 行业正减少对GPU依赖 转向低功耗高效率的专用芯片NPU(神经处理单元) [2] - NPU因满足高推理吞吐量、低延迟和高能效需求而成为增长核心 [2] NPU技术竞争格局 - CPU和GPU市场进入技术成熟阶段 推理型AI半导体转向ASIC架构的NPU [2] - 美国初创公司Sambanova采用数据流架构NPU 集成专有软件覆盖LLM训练与推理 [3] - Grok量产专用推理芯片 通过云服务实现百万令牌级实时推理 商业模式聚焦LLM服务而非硬件销售 [3] 行业竞争战略 - 企业需确保能效显著优势 数据中心功耗已成AI应用主要瓶颈 [3] - 定制化市场成为关键策略 针对电信、金融、国防等行业定制推理NPU [3] - 硬件与软件生态整合成为核心竞争力 Sambanova通过捆绑模式获得政府及金融机构客户 [3]