半导体行业深度:AI加速器协同高速通信技术,加速AI创新发展
湘财证券·2024-03-28 00:00

业绩总结 - 训练端计算集群渗透率稳步提升,AI计算加速器需求上行[1] - RoCE网络方案的普及,或带动DPU崛起,赛迪顾问统计数据预计2020年至2025年我国DPU市场规模年均复合增速约为170%[2] - 2024年政府工作报告中将数字基础设施建设列为重点工作目标[8] - 第一次工业革命以蒸汽机的发明为标志,推动基础设施建设[8] - 第二次工业革命以电力的应用为标志,推动高速公路、电网等基础设施建设[9] - 第三次工业革命以信息技术兴起为标志,推动互联网、移动通信网络等信息基础设施的出现[10] 新技术研发 - 生成式人工智能通用大模型的诞生推动AI赋能千行百业的步伐加速[10] - AI新型基础设施包括信息基础设施、融合基础设施和创新基础设施[12] - 人工智能模型发展分为训练端和推理端,训练端包括数据准备、模型构建、模型训练和模型评估四个步骤[13] 市场扩张和并购 - GPU在全球AI计算加速芯片市场中的市场份额稳定高于80%,到2025年人工智能芯片市场规模将达726亿美元[22] - 2023年中国加速计算市场中GPU的市场份额为90%,国内GPU加速器市场规模年同比增长37.3%[23] - 2023年中国加速器市场中GPU加速器市场份额占比为92%,规模年同比增速为37.3%[25] 技术应用 - 算力计算模型包括数据并行、流水线并行、张量并行和混合并行四种并行计算方式[26][28][29][30] - 大模型训练需要跨服务器通信传输大量参数和梯度信息,提升机器内GPU通信效率和跨服务器数据通信效率至关重要[31] - 机器内通信技术包括DMA、MPI、HCCS等,机器间通信技术包括TCP/IP和RDMA等[34][35] 市场趋势 - RoCE v2网络方案的普及将带动DPU的崛起[44][46] - 全球SmartNIC市场规模预计2024年将超过6亿美元,2026年年均复合增速达38.67%[46] - 中国DPU市场规模预计至2025年将增长至565.9亿元,年均复合增速约为170%[46][47]

半导体行业深度:AI加速器协同高速通信技术,加速AI创新发展 - Reportify