算力新技术：ASIC 对比 GPU20241218 摘要 • ASIC 芯片在 AI 领域，尤其生成式 AI、大语言模型及 AI 训练和推理方面 迅速发展，凭借高性能、低功耗和定制化优势，在英伟达 GPU 供应紧张的 背景下，成为云厂商寻求性价比和供应链稳定的替代方案。 • 尽管 ASIC 普遍用于推理，但先进设计已开始支持部分训练任务，未来或 将在特定训练任务中发挥更大作用，但大规模训练仍依赖 GPU。 • ASIC 规模化部署面临量价和生态链挑战，低功耗和低成本是其优势，但 需建立完善的软硬件生态系统。谷歌、亚马逊等科技巨头正投入资源构建 相关生态。 • 谷歌 TPU v5e 和 v5p 分别面向推理和训练，基于矩阵乘法加速，适用于大 规模深度学习任务，但对大语言模型和部分深度学习框架的适配性仍待提 升。 • 英伟达在 AI 芯片市场保持领先地位，其芯片在算力、通用性和编程环境 方面优势明显，H100 等高端 GPU 仍供不应求。 • 谷歌、亚马逊等公司在 AI 加速器设计上更注重功耗和性价比，而非单纯 追求极致算力，并关注特定应用场景的优化。 • 谷歌自研 GPU v5e/v5p 主要用于推理，已大规模 ...