文章核心观点 - 人工智能芯片行业正从以训练为中心转向以推理为中心，推理阶段的效率、成本和延迟成为新的竞争焦点 [2][3] - 以d-Matrix为代表的初创公司正通过设计专用推理芯片，挑战英伟达在AI芯片市场的统治地位，其核心优势在于通过架构创新实现更低的延迟和更高的能效 [2][5][7] 行业趋势：从训练到推理的转变 - 人工智能工作负载的重心正从模型训练转向模型推理，推理关乎效率，而训练关乎表现 [2][3] - 推理不仅是一个计算问题，更是一个计算与内存的综合问题，内存访问速度是影响延迟的关键因素 [3][4] - 当前大部分基础设施针对训练优化，优先峰值性能，而推理（尤其是交互式AI）更看重平均响应速度和低延迟 [4] d-Matrix的技术与产品策略 - 公司核心理念是制造能提供更快、更便宜、更高效率推理的芯片，旨在改变AI竞争格局 [2] - 其解决方案的核心架构创新在于将计算和内存紧密融合，缩短数据移动距离，并采用模块化的芯片组设计，以优化推理数据流、降低延迟并提高每瓦每秒令牌数 [5] - 公司声称其芯片在运行推理操作时，成本比GPU降低约90%，且能效（每瓦浮点运算次数）显著更高 [5] - 公司已开始小批量出货（几百颗），预计很快达到数千颗，并计划在今年实现数百万颗的大规模量产 [6] 市场竞争格局与挑战者涌现 - 英伟达目前是AI芯片市场无可争议的冠军，市值达4.5万亿美元，其GPU主导训练和推理市场 [7] - 但市场对替代方案的兴趣日益增长，客户开始寻求对冲或获取更多芯片的途径，投资者和初创公司尤其看到了推理领域的市场机会 [7][8] - 近期行业出现多笔重大交易与融资，显示竞争加剧：Groq被收购（交易额据报达200亿美元）、Cerebras与OpenAI签署价值100亿美元的芯片供应协议、Anthropic签署非英伟达芯片协议、Etched融资约5亿美元、d-Matrix于去年11月融资2.75亿美元 [8][9] - 中国开源推理模型DeepSeek的出现也助推了市场对快速推理芯片的兴趣 [9] - 尽管英伟达实力强大并承诺每年更新芯片，但行业开始出现裂痕，专用推理硬件被视为行业发展到一定阶段的必然产物 [10] 其他主要参与者的动态 - OpenAI已开始使用Cerebras的巨型芯片运行其GPT-5.3-Codex-Spark编码模型的推理，据报道速度比其他架构提升15到20倍 [5] - 大型科技公司也在开发自有芯片：微软发布了第二代AI芯片Maia，并支持d-Matrix；亚马逊和谷歌也拥有自研芯片（如Trainium、TPU），但它们仍大量使用英伟达GPU [9][10] - 行业观点认为，未来市场可能不会只有一个赢家，专用硬件将随着AI应用的工程化发展而兴起 [7][10]