竞争格局转变 - 谷歌被视为英伟达在人工智能芯片领域最大的竞争对手，而非AMD或英特尔 [2] - 谷歌是人工智能硬件竞赛的早期参与者，早在2016年就推出了首款TPU定制芯片 [2] - 人工智能领域的竞争正从模型训练转向推理，竞争焦点变为低延迟、低成本和低功耗处理更多查询 [10] 谷歌Ironwood TPU产品规格 - 每个Ironwood芯片配备192GB的HBM3e内存，内存带宽约为7.2 TB/s [5] - 每个芯片的峰值浮点运算能力高达4,614 TFLOPS，相比TPUv4性能提升近16倍 [2][5] - 一个TPU Superpod包含9,216个芯片，在FP8工作负载下累计性能可达42.5 exaFLOPS，系统内存约1.77 PB [2][5] - 相比TPU v5p，峰值性能提升10倍；相比TPU v6e，每个芯片在训练和推理工作负载方面性能提高4倍 [4] 技术架构与互连优势 - 谷歌采用芯片间互连技术构建Superpod，包含43个模块，通过1.8 PB的网络连接 [3] - 芯片采用3D环形布局实现高密度互连，其优势在于可扩展性和互连密度，甚至超越了NVLink [2][3] - 更大的内存容量有助于降低推理时的芯片间通信开销并改善大型模型的延迟 [6] 市场定位与推理性能优势 - Ironwood TPU被定位为“专注于推理”的芯片，旨在把握模型训练向推理转变的机遇 [2] - 在推理领域，关键指标包括延迟、吞吐量、效率和每次查询成本，而不仅是浮点运算能力 [6] - Ironwood相比前几代产品实现两倍的能效提升，使其在推理工作负载中部署更具吸引力 [7] - 该芯片预计将由谷歌云独家提供，可能造成生态系统锁定 [10]