文章核心观点 - 人工智能与硬件的发展密不可分，但当前缺乏统一的长期战略愿景来协调两者，导致创新碎片化、效率低下且能源消耗不可持续 [3][4] - 文章提出一个为期十年的AI与硬件协同设计与开发路线图，核心目标是实现人工智能训练和推理效率提升1000倍，并构建节能、自优化、无缝衔接云端与边缘的AI系统 [4][20] - 实现这一愿景需要根本性的跨层协同设计，涵盖硬件技术、算法范式及应用社会影响三个抽象层，并通过学术界、产业界、政府及社区的深度合作与协调行动来推动 [21][22][70] 重塑计算和人工智能基础，实现1000倍效率提升 - 核心挑战是数据传输已成为主要瓶颈，其速度超越了计算、内存和互连技术的进步，解决方案是转向内存沉浸式计算，通过计算与内存的密集三维集成实现超高带宽和低能耗 [7] - 需要开发低复杂度但高质量的人工智能模型，如混合模型、香农启发式模型等，以在不牺牲精度的前提下降低计算和内存需求，同时硬件感知模型需通过冗余减少、低精度训练等技术适应系统约束 [7] - 结合跨层优化和透明的硬件无关基准测试框架，推动模型、编译器、运行时、架构等紧密协同演进，以最大化“每焦耳智能”，开启可持续AI计算新时代 [7] 革新设计生产力和适应性 - 人工智能创新速度远超硬件和系统设计速度，需构建“人工智能在环”设计工作流程，将AI融入开发的每个阶段以弥合差距 [8] - 开放数据集和标准化基准对于电子设计自动化（EDA）的透明度、可复现性和进步至关重要 [8] - 利用专门的大型和小型语言模型，实现细粒度的任务-智能体对齐，可以自动化并加速设计子任务，结合上下文工程技术将催生AI原生设计方法 [8] 构建可靠且值得信赖的人工智能系统 - 随着AI普及，可靠性和可信度需通过权衡准确性、鲁棒性和效率（包括复杂性、能耗和延迟）来理解，鲁棒性必须涵盖模型和硬件 [9] - 需要设计方法明确管理这些权衡，并为系统行为提供保证，实现这一点需要形式化验证、基于物理的约束和运行时监控 [9] - 基准测试必须超越MLPerf，将鲁棒性、可解释性和可持续性纳入考量 [9] 用于科学发现、机器人和自主代理的物理人工智能 - AI创新的下一个飞跃在于将数据驱动学习与物理定律相结合，物理信息AI为建模科学和工程领域的核心多尺度现象提供了原则性方法 [10] - 在现实世界中运行的机器人和自主代理等物理AI系统，对能效、实时响应和鲁棒性有严格要求，需要学习、控制和硬件之间的紧密集成 [10] - 新兴的潜在世界模型（如联合嵌入预测架构JEPA）可能为未来AI系统中符号推理、物理信息先验和更高效决策机制的集成奠定基础 [10] 解决核心瓶颈并统一人工智能与硬件演进 - 未来AI的前沿在于开发紧凑、节能的模型，使其在性能上与前沿模型媲美，同时能在边缘和嵌入式平台上高效运行，这需要超越当前主流实现方式的创新 [11] - 下一代AI计算平台将基于异构的、以内存为中心的架构构建，通过可扩展的低延迟互连集成AI加速器、可编程架构和量子处理器 [11] - 跨领域重点包括AI与硬件协同设计、全栈能耗优化、AI驱动的芯片和系统自动化以及大规模集群效率，同时需确保人机交互（HAI）始终是关注焦点 [11] 人工智能与硬件的实践：迈向协调一致的全球影响 - 一个具有韧性的AI生态系统依赖于严谨的学术研究和批判性评估，以确保技术进步能有效转化为实际应用，产业界与学术界需互补 [12] - 在整个技术栈上协调一致的AI+硬件工作对于应对系统性挑战至关重要，包括在监管限制下扩展试点系统、管理模型攀升的成本和能源需求、弥合学术研究与产业目标间的差距 [12][13] - 通过协调一致的政策、共享资源和持续合作，AI和硬件创新可以以可持续、公平且具有全球影响力的方式向前发展 [13] 构建可持续的产学研政伙伴关系 - 实现宏伟愿景需要学术界、产业界和政府之间的深度合作，扩大诸如国家人工智能研究资源（NAIRR）等政府举措，有助于实现计算、数据和模型的民主化获取 [14] - 当前挑战在于如何将学术界的长期探索性研究与产业界的短期产品驱动型开发相衔接 [14] - 弥合鸿沟需要共享基础设施、开源协作以及能够将学术创造力与产业规模和重点相结合的政策框架 [14] 背景与动机：失衡的发展与关键瓶颈 - AI模型呈指数级增长，但发展轨迹难以为继，训练前沿模型消耗数百万千瓦时能源并产生大量碳排放，现有硬件范式在物理、架构和经济方面受限 [16] - 当今以计算为中心的基础设施存在“内存墙”瓶颈，传输数据的能量超过了计算数据所消耗的能量，且AI算法与硬件开发周期不匹配，创新碎片化 [16][17] - 未来发展需重新定义“扩展”，从追求蛮力计算转向采用节能、自优化和架构自适应的系统，成功标准应从浮点运算次数转向“每焦耳的智能” [17][18] AI+硬件协同演化的多层次愿景 - 未来进步来自三个抽象层面的协同创新：硬件技术（硬件层）、算法与范式（算法层）、应用与社会影响（应用层） [21] - 这三层构成一个紧密耦合的动态反馈回路：硬件定义性能边界，算法将硬件限制转化为高效方法，应用需求驱动整个技术栈的创新 [22] - 高度的相互依赖性要求持续的跨层协同设计，其中AI帮助设计硬件，硬件加速AI，两者共同演进以响应社会优先事项 [22] 硬件层：关键方向与使能技术 - 关键方向包括：以内存为中心的架构、高密度3D单片集成与芯片堆叠、内存计算和模拟AI加速器、光子和光电互连、量子-经典融合系统 [24][25] - 需要人工智能驱动的电子设计自动化（EDA）成为硬件工作流程核心，利用语言模型自动化设计空间探索、代码生成、验证和系统级协同优化 [25] - 系统级限制（供电、散热、可靠性、数据传输）已成为主要制约因素，需要在机架和整个计算集群间进行协调的协同设计 [34] 算法层：协同工作与自演化 - 算法需具备硬件感知能力，同时硬件需具备AI自适应能力，以弥合AI（月周期）与硬件（年周期）的演进速度差距 [26] - 需将AI直接嵌入系统设计循环，AI在环设计自动化将彻底改变架构、编译器和系统的构思方式，使基于学习的方法能近乎实时优化硬件 [26] - 硬件感知的训练范式（如低精度计算、稀疏性）及新的学习范式（如物理信息学习、潜在世界模型）将提高效率并构建能推理物理过程的AI系统 [26] 应用层：需求、影响与衡量标准 - AI系统最终必须满足人类和地球需求，同时保持计算可持续性，到本十年末，训练一个前沿模型的能源消耗可能相当于整个国家的消耗 [27] - 现实应用对能源、延迟、鲁棒性等限制必须反馈到算法和硬件层，推动新的算法范式和对硬件的具体设计目标 [27] - 衡量成功的标准必须从原始吞吐量转向“每焦耳的智能”，使技术进步与全球可持续发展目标保持一致 [29] 跨层协同设计：从各自为政到协同增效 - 未来变革源于各层级进步及跨层协同设计，算法必须适应物理限制，硬件必须演进以服务于学习动态，系统软件充当连接组织 [30] - 例如，优化端到端能源利用需要统一抽象，将模型结构与芯片布局、运行时调度乃至散热策略联系起来 [30] - 利用AI模型进行硬件生成、验证和仿真，可将从概念到原型的周期从数年缩短到数月甚至数周，开放数据集和标准化基准将加速可重复性进展 [30] 重要的未来趋势 - 近期趋势（2-5年）：领域特定AI加速器、高带宽内存（HBM）、3D封装与Chiplet、硬件感知编译器、边缘/设备端AI、混合内存层次结构 [58][59][62] - 中长期趋势（6-10年）：量子-经典混合系统、芯片内/间光互连、光子加速器、密集3D异构集成、超越CMOS的新材料、超可扩展分布式AI系统 [59][60][63] - 算法趋势显示，进步正从单纯优化模型规模转向融合效率、功耗、延迟等多维度，通过协同设计构建更小、更专业、更高精度的模型 [54][57] 潜在障碍、陷阱和解决方案 - 主要障碍包括：模拟/光子系统中的噪声与校准挑战、3D集成的良率与可靠性问题、软件生态系统碎片化、静默数据损坏（SDC）风险、设计复杂性爆炸 [46][65][69] - 潜在解决方案包括：跨层可靠性监控与错误纠正、算法鲁棒性技术（如噪声感知训练）、模块化硬件/软件接口、社区驱动的开放标准、AI驱动的EDA [66][69][70] - “先有鸡还是先有蛋”的协调问题需服务提供商、系统设计及芯片供应商间进行有意识的跨层协作或垂直联合投资来解决 [88] 十年成功的定义与衡量标准 - 成功意味着AI训练和推理效率提升1000倍，构建出节能、自优化的系统，实现云端、边缘和物理AI的无缝衔接 [4][67] - 硬件成功体现在异构组件间无缝互操作、数据传输最小化、连接性透明扩展、硬件能随算法演进调整，以及模拟、数字、光子、量子组件在统一系统中共存 [67] - 具体里程碑包括：100倍的端到端能源效率、集群持续利用率≥60%、完全可互操作的异构系统、成熟的领域调整型小型语言模型（SLM）生态系统、硅设计周期加快3倍 [94][95][96] 针对各界的建议行动项目 - **学术界**：领导跨学科研究，开发反映跨层交互的开放式测试平台和基准，培养学生熟练掌握硬件和AI技能 [70] - **产业界**：投资于硬件和算法的协同设计，共享竞争前的基础设施和标准，大规模部署AI驱动的设计工作流程 [70] - **政府**：资助三维集成、光子学等领域的长期研究，支持国家共享基础设施和开放平台，鼓励跨部门合作，将评估指标转向系统效率和社会影响 [70] - **社区**：鼓励可复现性、开放性和互操作性，培养整体性、跨层次的创新文化 [70]