报告核心观点 - 谷歌DeepMind发布研究报告，核心议题是从人类水平的通用人工智能向通用人工超级智能过渡的技术路径与潜在障碍，报告旨在绘制技术地图而非预测时间表 [2][3] AGI与ASI的定义 - AGI被界定为在多数认知任务上达到人类中位数水平的系统 [4] - ASI被界定为在几乎所有人类关心的任务和领域都远超人类的系统，其具体门槛是能稳定超越数万名专家协作十年工作的系统 [4] 1. 智能被视作一个连续谱，采用莱格-胡特智能度量进行形式化，理论终点是不可计算的通用人工智能 [4] 数字智能的根本优势与限制 1. 数字智能拥有完整算法描述，可被加速、复制、共享记忆状态，具备生物智能无法比拟的可扩展性 [5] 2. ASI并非全知全能，仍受限于光速、计算能耗、计算复杂度、逻辑边界及物理世界实时运行等基本限制 [5][6] 迈向ASI的四条技术路径 1. **扩展算力、模型与数据**：当前AI进步主引擎，有效算力年增长率约为十倍（每年一个数量级）[7] 2. **算法范式转变**：可能转向全新架构或优化方法，如脉冲神经元或神经形态硬件，但本质难以预测 [8] 3. **递归自我改进**：AI推动AI研发的循环，可能引发智能爆炸，但涉及物理操作的环节会抑制其动力学 [8] 4. **群体智能体形成**：大量AGI协调成集体结构，其协同效应仍是未决的研究问题 [9] 可能阻碍进展的五道关口 1. **数据墙**：高质量文本数据可能在本个十年内耗尽 [10] 2. **经济与自然资源需求**：算力、能源、芯片供应链成本持续增长构成挑战，轨道数据中心等设想可能带来新隐患 [10] 3. **神经网络范式不足**：当前范式可能不足以支撑通往AGI/ASI [10] 4. **研究难度增加**：思想发现越来越难，但AI自动化研究可能扭转趋势 [10] 5. **抽象壁垒**：在人类认知产物上训练的AI可能被既有概念框架束缚，缺乏从物理现实中发现新概念的能力 [11] 治理与社会因素 - 公众舆论对先进AI的担忧与监管支持可能构成瓶颈，但国家间的经济与军事竞争可能压倒放缓的压力 [12] 整体判断与未来展望 - 报告认为，AI进步恰好停滞在人类水平AGI的可能性不大，更可能的情形是达到AGI前平台期，或平滑过渡到弱ASI [14] - 若递归自我改进引发智能爆炸，过渡可能相当迅速，未来一二十年内越过AGI进入ASI领域的可能性不应被轻易否定 [14] 未竟的研究议程 - 报告将关键判断转化为研究议程，重点包括设计ASI基准测试方法、研究多智能体扩展律等 [15] - AI安全与对齐问题被列为一项工作假设，其难度可能成为能力发展的直接瓶颈 [15]