揭开IBM AI芯片的神秘面纱
公众号记得加星标⭐️,第一时间看推送不会错过。 为了应对生成式人工智能和基础模型计算需求的快速增长,IBM 研究院采用了全栈式方法,将人工 智能计算能力构建并集成到我们的系统产品中。IBM Spyre 加速器正是基于这种方法而诞生的。 企业工作负载由复杂的执行流程构成,其中会使用各种类型的模型来自动化决策。将人工智能集成到 企业工作负载中意味着在工作负载执行的不同阶段可能会使用多种不同的人工智能模型。因此,人工 智能加速器必须具备无缝的软件集成、灵活的硬件集成以及企业级的稳健性和可管理性。从人工智能 生命周期的角度来看,Spyre 的首要任务是加速推理。除此之外,我们还需要一种能够集成到多个 IBM 平台(尤其是 IBM Z 和 Power 系统)的解决方案。Spyre 的设计选择充分体现了这些考虑因 素。 Spyre AI 内 核 专 为 混 合 精 度 AI 数 学 运 算 而 设 计 。 每 个 Spyre AI 内 核 分 为 两 个 " 核 心 单 元"(corelet)。每个核心单元包含一个二维 8x8 SIMD 脉动阵列,用于矩阵乘法和卷积等运算;以 及两个一维向量阵列,用于激活/归一化函数和量 ...