AMD EPYC Expands Its Leadership at the Foundation of AI

文章核心观点 - AMD第五代EPYC处理器为Google Cloud TPU 8tx提供主机基础设施支持,这是首个实现硬件强制机密计算的云TPU系统,扩展了AMD EPYC作为加速AI基础设施基础的角色 [1][2] - 此次合作结合了AMD EPYC的CPU性能、AMD Infinity Guard安全能力与x86软件兼容性,以及Google Cloud TPU的AI加速能力,帮助企业部署推理、微调和强化学习工作负载 [1] - 企业可在云端大规模运行最敏感的AI工作负载,同时不牺牲数据保护 [1] 产品与技术细节 - 在TPU 8tx系统中,第五代AMD EPYC处理器负责工作负载编排、数据准备以及与TPU加速器的高吞吐通信 [4] - 系统利用AMD EPYC CPU中的AMD安全加密虚拟化(SEV)能力,与TPU共同将机密计算保护从CPU扩展到连接的加速器,帮助保护敏感数据在它们之间移动时的安全 [4] - 在授予加速器直接访问受保护内存之前,验证加速器的身份和安全配置,有助于客户提示、模型权重和中间数据在CPU内存中及主机与加速器之间传输时保持加密,并在加速器执行期间实现硬件隔离 [5] - 这些保护措施帮助企业在推理和代理AI应用中放心使用敏感信息 [5] - AMD Infinity Guard安全功能因EPYC处理器代际和/或系列而异,需由服务器OEM和/或云服务提供商启用 [14] 高管观点 - AMD计算与企业AI高级副总裁兼总经理Dan McNamara表示,最强大的AI系统需要能够匹配其所托管加速器需求的CPU基础,EPYC在性能、内存带宽和I/O方面建立了领先能力,与Google Cloud的合作将这些优势带给TPU 8tx [3] - Google Cloud AI与计算基础设施副总裁兼总经理Mark Lohmeyer表示,通过将第五代AMD EPYC处理器与第八代TPU架构结合在AI Hypercomputer中,首次将硬件强制机密计算引入云TPU,客户获得芯片级数据保护以及现代推理模型所需的低延迟性能 [3] 合作范围与生态系统 - AMD EPYC处理器还支撑更广泛的Google Cloud机密计算产品组合,AMD SEV技术帮助保护Confidential VMs、Confidential GKE、Confidential Space、Confidential Managed Service for Apache Spark和Confidential Dataflow中的工作负载,TPU 8tx将此合作扩展到机密AI加速领域 [6] - AMD EPYC处理器是超过10家领先超大规模厂商和前沿AI实验室的首选主机CPU,覆盖GPU和定制AI加速器ASIC [7][8] - AMD EPYC处理器支持使用AMD Instinct GPU、Nvidia GPU和定制芯片的系统,这种广度为客户提供了跨加速器选择的经过验证的CPU平台,并得到成熟的x86软件生态支持 [9] - AMD与Google Cloud已在多代EPYC处理器上合作,支持通用、计算密集型、存储密集型和加速工作负载,直至当前的Google Cloud Compute Engine C4D、N4D、H4D、Z4D和G4虚拟机 [10] - 两家公司还在企业层面多年合作安全技术,包括Google安全专家对AMD安全处理器固件的深入审查 [10] 行业影响 - 随着超大规模厂商、前沿实验室和模型提供商构建日益专业化的AI基础设施,CPU选择仍是系统性能和部署的核心,加速器依赖主机处理器提供数据、调度工作并连接AI工作负载与周围的应用和服务 [8] - 通过TPU 8tx,这一扩展合作帮助企业在生产中运行现代推理和代理AI工作负载,同时不牺牲数据保护 [11]

AMD EPYC Expands Its Leadership at the Foundation of AI - Reportify