文章核心观点 - 人工智能（AI）的第三次浪潮始于1993年，其核心驱动力是计算能力的显著提升，特别是图形处理器（GPU）的普及，这解决了前两次浪潮因算力不足而停滞的问题 [1] - 2012年ImageNet大赛中基于卷积神经网络（CNN）的AlexNet的突破性成功，标志着CNN成为AI发展的核心技术，并引发了使用GPU进行AI研究的热潮 [1] - GPU因其高度并行计算能力和易获取性，成为早期AI训练的关键硬件，但并非专为AI设计，存在功耗高、处理小批量或稀疏数据效率低等局限性 [12][15][20][21] - 为克服GPU的局限并追求更高效率，行业正积极发展专用AI处理器/加速器，其特点包括：专为AI计算优化、采用数据流架构、集成大量SRAM或HBM内存，以及探索存内计算（CIM/PIM）和模拟处理等新技术路径 [24][26][32][36][40][41] 人工智能发展历程与关键转折 - 第三次浪潮的起点：人工智能的第三次浪潮始于1993年，核心原因是计算能力的大幅提升，使得传统算法得以有效应用 [1] - 标志性事件：1997年IBM“深蓝”击败国际象棋世界冠军，但其基于专用硬件的“蛮力”计算并未普及 [1] - 历史性突破：2012年ILSVRC大赛中，多伦多大学的AlexNet（基于CNN）以显著优势获胜，错误率为16.4%，此后CNN成为AI研究的主流方向 [1][10] - 性能飞跃：2015年微软ResNet将ImageNet错误率降至3.57%，低于人类的5.1%，但网络层数达152层，计算量巨大 [10] 卷积神经网络（CNN）与计算需求 - CNN的起源：其理论基础源于1958年对大脑结构的模拟（感知器模型），早期尝试如Thinking Machines公司的CM-1系统因规模远小于人脑而未成功 [2] - 计算需求激增：以AlexNet第一层卷积为例，需进行超3500万次乘法和近3500万次加法运算 [9] - 算力对比：AlexNet使用两张NVIDIA Tesla C2050显卡（算力共约2.06 TFlops）训练约两周，若使用1980年代的CM-1系统完成相同任务需70多年 [3] - 硬件选择必然性：处理CNN海量计算的唯一可行方案是使用具备高度并行计算能力的GPU [12] GPU成为AI计算主流的原因与演进 - 核心优势： - 高度并行性：利用SIMT架构，可同时处理大量线程（如Fermi架构有24,576个线程），适合CNN的并行计算模式 [12][13] - 内存与计算平衡：早期CNN模型（如AlexNet第一层）所需数据量约1.3MB，可放入缓存，属于计算密集型任务，与GPU特性匹配 [14] - 易获取性与生态：消费级GeForce显卡易于购买，且CUDA编程比OpenCL更易用，迅速形成了AI研究与NVIDIA GPU的强绑定 [15] - NVIDIA的持续优化： - 引入专用单元：2017年在Volta架构中引入张量核心，专门优化矩阵运算 [18] - 降低计算精度：为提升性能，支持FP16/BF16、FP8乃至最新的FP4数据类型，通过构建更大网络来弥补精度损失 [18][19] - 集成高带宽内存：为应对大型网络的内存需求，集成HBM内存以提升带宽和容量 [19] - 面临的挑战： - 功耗剧增：从Ampere A100的250W，到Hopper H200的700W，再到Blackwell B300的1400W，给数据中心供电带来压力 [20] - 处理效率局限：在LLM推理中，当批处理大小减小时，GPU性能会下降；且SIMD结构难以高效处理稀疏矩阵 [20][21] - 架构调整：NVIDIA曾计划为LLM解码推出专用处理器（Rubin CPX），但后续改为采用不兼容CUDA的Groq 3处理器，显示出GPU的局限性 [21] 专用AI处理器/加速器的兴起与特点 - 发展背景：2010年代末，GPU在AI计算中的缺点逐渐显现，催生了旨在弥补这些不足或针对特定市场的专用AI处理器/加速器 [24] - 核心设计特点： - 专用计算单元：许多加速器仅专注于卷积和激活函数等特定AI运算，牺牲通用性以换取更高效率 [24] - 异构集成：常将通用CPU内核（如RISC-V）与专用AI加速器结合，以保持一定的灵活性和可编程性 [25] - 主流架构与技术趋势： - 数据流架构：成为主流设计，通过将处理任务像流水线一样分配给多个处理单元（PE），减少开销并优化负载，能高效处理稀疏矩阵 [26][27][31] - 存内计算/近存计算：将内存与计算单元紧密结合以降低数据传输功耗，特别适合以卷积为主的AI计算。三星、SK海力士等公司正推进相关研发 [32][33][35] - 集成大容量SRAM：为避免高延迟、高功耗的片外DRAM访问，AI加速器倾向于集成大量SRAM作为暂存区。Cerebras的WSE-3集成了90万个PE和44GB SRAM [36][37][38] - 搭载HBM内存：为满足LLM等大型模型的内存需求，AI处理器普遍集成2到4个HBM芯片以获取超高带宽 [40] - 模拟处理器：适用于边缘计算，通过模拟电路执行卷积运算实现高能效和低成本，代表公司有Mythic、Aspinity等 [41][42]