人工智能推理芯片行业变革 - 2026年秋季人工智能推理领域将迎来重大变革，成功取决于系统级创新，包括新架构和内存设计 [1] - 多款新型芯片即将应用于数据中心，包括OpenAI的Jalapeno、英特尔的Crescent Island GPU和初创公司Fractile [1] - 初创公司Taalus和Tensordyne开发专用于数据中心推理的芯片，而非可编程GPU [1] - 边缘AI市场将变化，Hailo被Microchip收购，英伟达与苹果在桌面电脑领域竞争 [1] - AMD计划将第五代GPU MI455X与Cerebras晶圆级推理引擎结合 [1] - 荷兰Axelera开发Titania芯片技术，英国Graphcore将推出数据中心新芯片 [1] - 成熟公司SambaNova和Tenstorrent推销推理芯片，云服务提供商开始采用 [1] - 数据中心大量采购高带宽内存(HBM)堆栈和DRAM，内存架构和支持变得重要 [2] OpenAI Jalapeño芯片 - OpenAI的Jalapeño推理芯片从零开始构建，设计到生产仅用九个月，博通利用OpenAI模型加快设计 [3] - 博通表示该技术将以千兆瓦级规模部署，2026年底开始部署 [3] - Jalapeño工程样品在实验室以生产目标频率和功耗运行机器学习工作负载，包括GPT-5.3-Codex-Spark [3] - OpenAI基于对LLM基本原理的深刻理解，结合模型、内核、服务系统和产品需求路线图设计芯片 [3] - OpenAI与博通和Celestica合作，通过芯片实现、电路板、机架系统集成、高性能网络和可扩展生产系统实现产业化 [3] - Jalapeño设计高度灵活，可与所有LLM兼容 [3] - 架构减少数据传输，平衡计算、内存和网络资源，使实际利用率接近理论峰值性能 [4] - 博通的芯片实现和网络技术，包括Tomahawk网络芯片，助力平台大规模量产 [4] - 早期测试表明Jalapeño每瓦性能将远超目前最先进的芯片，详细技术报告未来几个月发布 [4] - OpenAI总裁格雷格·布罗克曼表示世界迈向计算驱动型经济，Jalapeño是全栈基础设施战略的一部分 [4] - OpenAI硬件项目负责人Richard Ho表示Jalapeño从底层架构专为LLM推理设计，优化内核、内存移动、网络和服务模式 [4] - 博通总裁陈福阳表示与OpenAI合作体现对未来十年AI物理基础设施规模化发展的承诺，是多代路线图开端 [5] 英特尔Crescent Island GPU - 英特尔推出代号Crescent Island的数据中心设备，面向AI推理工作负载，具有高内存容量和节能性能 [5] - 英特尔首席技术官Sachin Katti表示AI从静态训练转向实时推理，扩展复杂工作负载需要异构系统 [5] - 英特尔与开放计算项目(OCP)合作设计芯片，针对风冷企业服务器优化，集成大量内存容量和带宽 [5] - 芯片基于Nova Lake-S和-H CPU使用的Xe3P微架构，优化每瓦性能，支持160GB低功耗LPDDR5X内存 [6] - 芯片支持多种数据类型，可用于令牌即服务提供商和推理 [6] - 英特尔面向异构AI系统的软件栈在Arc Pro B系列GPU上开发和测试，客户样品预计2026年下半年交付 [6] 微软Maia 200芯片 - 微软发布Maia 200，采用重新设计的架构，专注于提升内存吞吐量 [8] - 芯片为750W，采用台积电3nm工艺制造，采用分层微架构，由一系列单元组成 [8] - 每个单元集成两个执行引擎：单元张量单元(TTU)用于高吞吐量矩阵乘法和卷积，单元向量处理器(TVP)作为高度可编程SIMD引擎 [8] - 引擎由多级存储单元的单元SRAM(TSRAM)和单元级DMA子系统供电 [8] - 轻量级单元控制处理器(TCP)运行底层代码，协调TTU和DMA工作分配，硬件信号量提供数据移动和计算间细粒度同步 [8] - 芯片片上集成272 GB SRAM，连接到216 GB HBM3e内存，集群规模最多可扩展至6144个设备 [8] - 芯片已部署在爱荷华州和亚利桑那州数据中心，计划今年晚些时候扩展到意大利、澳大利亚和韩国 [8] 英国初创公司Fractile和Graphcore - Fractile获得北约投资基金支持，在2.12亿美元融资中获利，基于RISC-V的内存计算架构使其估值超过10亿美元 [10] - Fractile计划2026年下半年发布首款芯片 [10] - Graphcore隶属日本软银集团，2020年开发第二代Colossus芯片GC200，集成1472个内核和900Mbit SRAM内存 [10] - Graphcore在内存集成和内存计算方面拥有关键技术，扩充英国布里斯托尔、剑桥和印度班加罗尔500人团队 [11] - Graphcore开发Izanagi芯片，计划今年晚些时候发布，可能采用晶圆键合技术将处理器与海量SRAM内存连接 [11] 其他推理AI芯片 - Taalus针对特定AI模型定制开发硬件，降低功耗提升性能 [12] - Taalus HC1技术演示器采用台积电6nm工艺，运行于2.5kW服务器，搭载Llama 3.1 8B模型 [12] - Tensordyne(原Recogni)成立于2017年，专注于汽车视觉AI，数据中心推理技术采用对数数制(LNS) [12] - Tensordyne的3纳米Napier推理AI处理器将矩阵乘法转换为加法，缩小计算逻辑面积，优化每瓦性能 [12] - Napier处理器拥有48个计算节点，连接到144GB HBM内存，封装在风冷机箱中 [12] - 72芯片机箱在30千瓦功耗下提供相当于76.7 petaflops的FP16计算能力，仅为其他领先系统的三分之一 [12] 边缘AI推理 - 英伟达DGX Spark(原Project Digits)正式上市，基于与联发科联合开发的GB10 Grace Blackwell超级芯片 [12] - GB10集成20个ARM核心(10个Cortex-X925和10个Cortex-A725)和6144个CUDA核心，采用Blackwell架构 [12] - 配备128GB LPDDR5x一致性统一系统内存，FP4精度下最高1 PetaFLOP或1000 AI TOPS [12] - GB10散热范围为140W，DGX Spark机箱需要240W电源 [13] - DGX Spark可运行Kimi-K2 Thinking、DeepSeek-V3.2、Mistral Large 3、Meta Llama 4 Maverick、Qwen3和OpenAI gpt-oss-120b等模型 [13] - vLLM核心维护者尤凯超表示DGX Station使vLLM能以更低成本测试和开发GB300特定功能 [13] - SGLang社区贡献者Jerry Zhou表示DGX Station将数据中心级GPU性能带到桌面，可本地运行Qwen3-235B等大型模型 [13] - 华硕、Boxx、戴尔科技、技嘉、惠普、微星和超微等公司已开始出货DGX Station版本 [13] - 联发科协助英伟达开发RTX Spark芯片，用于运行Windows 11系统的PC，目标客户是AI笔记本电脑 [14] - RTX Spark拥有128GB统一显存，功耗范围为80至110瓦 [14] - OpenClaw基金会首席架构师Vincent Koc表示支持将OpenClaw等代理部署到Windows生态系统 [15] Axelera Metis芯片 - Axelera指出开发者每天仅使用两台迷你电脑处理数百万个代币，完全放弃云API以降低成本 [16] - Axelera迷你电脑搭载第一代Metis芯片，采用PCI M.2接口，专为边缘AI设计 [16] - 据Market Mind Partners预测，到2027年全球超过40%制造工厂将采用边缘计算视觉系统 [16] - Axelera表示将AI视觉功能部署到企业内部，在数据生成地点处理，不受限于云架构 [16] 苹果M5 Ultra芯片 - M5 Ultra预计今年晚些时候发布，由两颗M5芯片组成 [17] - M5芯片最多包含10个定制ARM核心和10个针对AI优化的GPU核心 [17] - M5 Max也采用两颗芯片，M5 Ultra预计包含更大内存以支持更大规模AI模型 [17] Microchip收购Hailo - Microchip Technology将在未来两个月内收购以色列芯片开发商Hailo，金额未披露 [19] - 收购将提升Microchip边缘AI能力，带来Hailo-8、Hailo-10和Hailo-15三款计算机视觉芯片 [19] - 为智能边缘系统增添摄像头、ISP、DSP、视频编码和AI视频流处理功能 [19] - Microchip此前收购Neuronix AI Labs，为FPGA和SoC器件增加神经网络优化技术 [19] - Microchip高级副总裁Mark Reiten表示收购将加速Microchip在高性能边缘AI处理领域的扩张 [19] - Hailo首席执行官Orr Danon表示加入Microchip使Hailo有机会借助全球嵌入式系统领导者平台扩展技术 [19] 行业趋势总结 - AI蓬勃发展推动新型芯片架构和内存设计，技术从数据中心下放到桌面端 [20] - 未来几个月一系列芯片技术将提升边缘AI部署效率，改变AI推理经济格局 [20]