文章核心观点 - 现代CPU已远非传统意义上的单一CPU,大多数现代处理器更接近系统级芯片,除CPU核心外还集成图形处理器、AI加速器、内存控制器等组件 [2] - CPU由控制单元和数据通路两大部分构成,控制单元指挥数据通路如何运行,数据通路是数据在处理过程中流动的路径 [6] - 指令集架构(ISA)是CPU的蓝图,规定CPU可处理哪些指令、软件可使用哪些寄存器、如何寻址内存等,而微架构(流水线、缓存、执行单元)才是芯片制造商竞争的焦点 [4] - 现代CPU通过乱序执行、分支预测、预取、专用加速器、多核互连、混合架构、芯粒设计等多种技术协同提升性能 [31][33][41][46][48] - CPU性能取决于时钟速度乘以内核每个时钟周期可完成的指令数(IPC),现代性能增长主要源于IPC提升而非频率提升 [50] 指令集架构(ISA) - 最常见的两种架构是x86和Arm,x86在台式机、笔记本电脑和服务器领域占据主导地位,Arm几乎应用于所有智能手机并扩展至PC和服务器领域 [3] - 苹果公司2020年将Mac电脑处理器升级为Arm架构芯片,高通骁龙X系列将Arm架构引入Windows系统,亚马逊、英伟达和谷歌等公司的云服务器和AI服务器芯片越来越多采用Arm架构 [3] - RISC-V是一种开放且免版税的ISA,已从利基项目发展成为有力竞争者,数十亿个RISC-V内核已应用于微控制器中,并逐步渗透到个人电脑、服务器和人工智能芯片领域 [3][4] - MIPS和PowerPC等老旧ISA逐渐淡出视野,沦为小众产品 [4] - AMD的Zen 5和Intel的Lion Cove核心都运行相同的x86代码,但内部结构截然不同;Intel和AMD于2024年成立x86生态系统咨询小组以协调该架构的未来扩展 [4] - RISC-V基本指令集只有几十条指令,而x86指令集有超过一千条指令且许多有多种变体,x86指令长度从1字节到15字节不等 [11] - ARM指令固定为4字节,这是苹果核心每个周期可以解码八条或更多指令的原因之一 [11] 指令周期:取指与解码 - CPU维护程序计数器(PC)保存下一条待执行指令的内存地址,取指阶段将指令从内存移动到CPU的指令寄存器中 [8][10] - 现代CPU每个周期获取一个包含数十字节的数据块,可同时容纳多条指令,分支预测器会不断预测程序执行方向并提前调整读取操作 [10] - 解码阶段通过操作码(Opcode)确定指令类型,x86解码是英特尔或AMD x86 CPU中最具挑战性的部分之一并占用大量空间 [11] - x86 CPU将复杂指令分解为更简单的微操作并存储在专用微操作缓存中,同一段代码再次运行时CPU可完全跳过解码器 [11][12] - 英特尔自2011年Sandy Bridge架构以来一直使用微操作缓存技巧,AMD自2017年初代Zen架构以来也一直使用 [12] - CPU最常解码的指令类型是内存指令、算术指令或分支指令 [12] 寄存器 - 64位CPU上通用寄存器每个存储64位数据,x86架构有16个,Arm架构有31个;CPU还拥有容量更大的向量寄存器,每个最大可达512位 [14] - 寄存器可视为内存层次结构的最顶层(类似"L0缓存"),速度甚至比L1缓存还要快 [15] - 现代CPU在后台维护数百个物理寄存器,使用寄存器重命名技术映射到程序实际使用的少数寄存器,使CPU可同时处理多条指令而不互相覆盖对方的值 [15] 执行和算术逻辑单元(ALU) - ALU通常接收两个输入和一个控制信号并输出一个结果,运算类型由指令的操作码决定,控制单元将操作码发送给ALU [16][18] - ALU除基本算术运算外还可执行与(AND)、或(OR)、非(NOT)和异或(XOR)等位运算,并向控制单元输出结果正负、零、溢出等状态信息 [18] - 高端设计通常包含六个或更多并行工作的整数ALU,以及独立的浮点运算单元和向量指令单元 [18] - 现代CPU中内存地址计算通常交给专用地址生成单元(AGU)完成 [19] 内存和缓存层次结构 - 大多数现代CPU包含三级缓存L1、L2和L3,一些较新设计还增加了第四级缓存 [20] - L1缓存最小最快,通常分为数据存储区和指令存储区,每个核心的数据缓存和指令缓存通常只有32到64KB [22] - 桌面级芯片L2缓存通常为每个核心1到3MB,L3缓存容量可能只有几十MB且由多个核心共享 [22] - AMD的X3D芯片在处理器顶部直接堆叠了额外的64MB L3缓存,使其在游戏方面表现强大,因为游戏工作负载非常依赖更大缓存 [22] - CPU读取内部寄存器只需一两个时钟周期,读取L1缓存只需几个时钟周期,读取L2缓存需要十几个或更多,读取L3缓存只需几十个时钟周期,从RAM读取需要几百个时钟周期,从SSD读取需要几十万个时钟周期,硬盘读取甚至可能需要数百万个时钟周期 [23] - 每个核心通常拥有私有L1和L2缓存,L3缓存由一组核心共享,如AMD Zen 5芯片上的八个核心;英特尔能效核心以四个为一组共享一个L2缓存 [23] 分支、流水线和预测 - 现代程序经常跳转执行,CPU很少连续执行超过十几条指令而不使用分支指令,分支指令源自if语句、for循环、函数调用和return语句等 [24] - 流水线技术将不同指令的各个阶段重叠执行以最大限度提高CPU效率,现代Arm或x86内核通常有10到20个流水线级 [25][28] - 高端内核每个流水线级可处理多条指令并乱序执行,任何给定时刻可同时处理数百条指令;示例划分可能为取指4个时钟周期、译码6个时钟周期、执行3个时钟周期、写回结果并结束指令执行7个时钟周期 [28] - 分支预测器追踪先前分支状态以判断即将出现的分支是否可能被采纳,部分借鉴机器学习技术如感知器简单神经网络 [28] - 现代分支预测器在典型代码上正确率超过95%,甚至在分支指令被解码之前通常就能猜到程序要去哪里 [28] - 分支预测错误时CPU会丢弃所有错误执行的分支指令之后的指令并从正确位置重新开始执行 [29] 乱序执行与预取 - 几乎所有现代处理器都不是按照指令接收顺序执行,乱序执行范式用于最大限度减少等待其他指令完成时的停机时间 [31] - CPU将每条指令记录在重排序缓冲区数据结构中,指令可按任意顺序执行但只有按原始程序顺序执行后结果才会最终确定 [33] - 预取器监控内存访问模式并尝试预测程序接下来需要哪些数据,在请求数据之前从RAM中取出数据并加载到缓存中 [33] 投机性执行与安全 - 2018年Spectre和Meltdown漏洞披露表明被丢弃的推测性工作仍会留下痕迹(主要存在于缓存中),攻击者通过仔细测量内存访问所需时间可推断CPU不应泄露的数据 [34] - 几乎所有来自Intel、AMD和Arm的高性能CPU都受到不同程度影响;Meltdown漏洞已在硬件中得到修复,但Spectre式攻击是一类问题且每年出现新变种 [34] - 芯片制造商现在设计芯片核心时会考虑侧信道攻击,一些软件缓解措施会带来性能损失 [34] 加速器和人工智能 - CPU中普遍包含任务专用加速器,全部功能是尽可能快地执行加密、媒体编码或机器学习等小型任务 [36] - NPU(神经处理单元)专为运行人工智能工作负载(如实时转录或本地语言模型)设计,同时大幅降低功耗,短短几年内从个人电脑中几乎不存在发展成为近乎标配的功能 [36] - AVX-512等宽向量扩展指令集可在一条指令中处理16个数字,英特尔AMX和苹果M4芯片中使用的Arm SME等矩阵扩展指令集专门为加速人工智能数学运算设计 [36] - 专用媒体引擎负责视频编码和解码包括AV1编解码器,录制或流媒体播放几乎不影响核心 [40] - 随着加速器兴起,CPU核心可能只占用芯片一小部分,尤其笔记本电脑处理器中GPU、NPU和媒体引擎都集成在CPU核心旁边 [40] 多核与同时多线程 - 多个核心通过片上互连(如环形或网状互连)相互连接,连接到共享L3缓存和内存控制器,须使用复杂算法和控制器解决一致性和连贯性问题 [41] - 不同核心通常处理来自不同线程的指令流以降低核心间依赖性,许多程序仍未针对多线程设计 [42] - 同步多线程(SMT,英特尔命名为超线程)允许单个核心同时处理两个线程,在线程优化良好的工作负载中通常能以极小芯片面积占用提升10%到30%的吞吐量 [44] - 英特尔最近在Lunar Lake和Arrow Lake芯片的性能核心中取消了超线程技术,转而将精力投入到提升每个核心的速度和效率上;苹果和高通完全不使用SMT [44] 混合架构 - 许多处理器将体积更大速度更快的性能核心(P核心)与体积更小能效更高的核心(E核心)混合使用,借鉴智能手机芯片工作原理 [46] - 一些新推出笔记本电脑芯片增加第三层低功耗核心用于处理轻量级后台任务,英特尔2021年Alder Lake处理器采用该方案,苹果和高通也采用类似设计 [46] - AMD推出紧凑型"c"版本Zen核心,以牺牲峰值时钟频率为代价换取更小尺寸和更高能效 [46] - 操作系统需知道哪个核心最适合执行哪项任务,英特尔线程管理器向Windows提供每个线程正在执行的任务信息,使游戏运行在P核心上而后台更新发送到E核心 [46] 芯粒和模块 - AMD和Intel不再制造单一的大块硅片,而是将处理器拆分为若干较小晶片——AMD称之为"芯粒"(chiplets),Intel称之为"模块"(tiles)——并连接在同一个封装内 [48] - Ryzen 9 9950X处理器结合了两个8核心计算芯粒以及一个独立I/O裸片,后者负责处理内存、PCIe和USB等功能 [48] - 较小裸片制造成本更低,因为即便出现缺陷受损硅片面积也较小,且每个裸片可采用最适合其自身需求的制造工艺生产;代价在于通信,数据在不同芯粒之间传输所花费时间比同一裸片内部更长 [49] - 英特尔Foveros和AMD 3D V-Cache等先进封装技术通过堆叠裸片实现集成 [49] 物理设计与制造 - 现代桌面处理器工作频率通常在3GHz到5GHz之间,最快芯片可加速达到6GHz左右甚至更高,性能显著增长主要源于其他方面而非频率提升 [50] - 升压算法根据温度、功耗和工作负载不断调整时钟速度和电压,将每个芯片推向极限,开箱即用无需手动干预,手动超频空间比以前少得多 [51] - 现代芯片设计为热运行,达到温度限制(通常在95至105°C左右)会自动调节时钟 [51] - CPU硅芯片实际面积可能只占物理设备表面积的20%,增大芯片面积可让热量更均匀散发到散热器上并提供更多与外部组件连接的触点 [51] - 现代桌面CPU背面有超过一千个电触点,AMD的AM5插槽使用1718个触点,英特尔的LGA 1851插槽使用1851个触点,两者现在都采用LGA设计 [51] - 笔记本电脑芯片直接焊接在主板上,通过一圈圈微小焊球焊接,数量通常超过一千个,大约一半焊球用于供电其余用于数据传输 [52] - 高性能CPU满载时电流高达200安培以上,需要数百个触点均匀分散电流,这些触点通常镀金以提高导电性 [52] - 台积电和英特尔最新制造工艺正从FinFET晶体管转向全环栅极设计,栅极完全包裹沟道实现更好控制和更低漏电;英特尔Panther Lake芯片使用的18A工艺引入背面供电技术,将电源线移至硅晶圆背面使正面可用于传输数据信号 [52] AMD Zen 5内部结构案例 - 分支预测器运行在所有其他代码之前,预测程序执行方向并告知前端需要获取哪些指令,指令来自32KB的L1指令缓存并借助TLB缓冲区获取 [54] - 指令经过两个并行工作的独立解码集群,每个集群将x86指令转换为微操作,最近运行过的代码可完全跳过解码步骤直接从微操作缓存执行,每个时钟周期最多可有八个微操作传递到下一阶段 [54] - 微指令经过寄存器重命名后放入包含448个条目的重排序缓冲区跟踪每条指令,之后在调度器中等待直到输入数据准备就绪 [56] - Zen 5拥有六个整数ALU、四个用于内存操作的地址生成单元,以及一个能够处理完整512位AVX-512指令的浮点和向量单元 [56] - 内存操作由一个48KB的L1数据缓存提供服务,每个核心配备一个1MB的L2缓存,芯片组上的八个核心共享一个32MB的L3缓存 [56]
一文看懂现代CPU