全球人工智能发展趋势与治理挑战 - 2025年全球人工智能创新呈群体性突破，语言大模型、多模态大模型和具身智能等领域快速发展，推动人工智能向更高效、强智能方向演进 [1] - 人工智能是新一轮科技革命和产业变革的重要驱动力量，正对全球经济社会发展和人类文明进步产生深远影响 [1] - 人工智能深度渗透生产、服务、医疗、教育、政治和文化等各领域，不仅深刻影响日常生活，也在重塑全球治理格局 [3] 人工智能全球治理的现状与赤字 - 现有全球治理格局呈现碎片化状态，统一有效的治理体系尚未成型，主要依赖伦理规范、行为守则等“软法”而非具有普遍约束力的国际“硬法” [2] - 人工智能催生新的智能鸿沟，并带来滥用恶用、系统故障等多种可能产生全球影响的潜在风险 [1] - 全球人工智能治理框架已超过60个，但源自全球南方国家的不足五分之一，决策权重严重失衡 [4] - 以“全球人工智能伙伴关系”为例，22个创始成员中仅有2个来自全球南方，导致许多国家难以参与核心议程设置 [4] - 全球92%的人工智能研发投入集中于北美、东亚和欧洲，非洲人工智能相关专利占比不足0.5% [12] 多边治理机制与主要参与方 - 以联合国为代表的国际组织、人工智能安全峰会、二十国集团等多边机制，以及中美等人工智能大国、跨国企业、科学家共同体等多利益相关方均在积极参与治理 [2] - 2024年8月，联合国通过决议，决定设立国际人工智能科学小组和全球人工智能治理对话机制 [5] - 欧盟依据风险程度将人工智能系统划分为禁止、高风险、有限风险和最低风险，并根据技术迭代速度建立季度更新机制 [4] - 阿联酋通过《人工智能宪章》，提出了基于伦理和可操作的人工智能治理框架 [4] 核心治理原则与理念 - 人工智能全球治理需要坚持“以人为本”理念、“智能向善”宗旨、“相互尊重、平等互利”原则 [8] - “以人为本”是人工智能全球治理的初衷，研发与应用的最终目的是服务于增进人类共同福祉 [8] - “智能向善”要求人工智能发展必须始终遵循和平、发展、公平、正义、民主、自由的全人类共同价值 [9] - 中国提出《人工智能北京共识》，强调人工智能应坚持促发展、非歧视、以人为本 [7] - 中国将善治逻辑引入人工智能领域，聚焦推动人类文明整体进步 [6] 构建协同共治体系的路径 - 人工智能治理不可能由单一国家或集团完成，必须依靠真正的多边合作，国际协同监管是其安全有效发展的支柱 [11] - 联合国需进一步发挥在人工智能全球治理中的主渠道作用，引领各国形成具有广泛共识的治理框架和标准规范 [13] - 各国立法不必完全一致，但框架需要相互兼容，可操作的治理标准和监管工具需要由各国政府、技术人员和学者共同探索 [11] - 需要加强人工智能基础设施、教育与知识共享，保障各国特别是发展中国家公平获得算力、人才与安全模型等 [11] - 中国倡议成立全球性的人工智能协调机构——世界人工智能合作组织，并提出了《全球人工智能治理倡议》等一系列倡议和计划 [13][14] 发展中国家的挑战与机遇 - 发达国家凭借历史积累与技术优势在人工智能治理中掌握更多话语权，全球南方国家的声音仍显不足 [4] - 非洲人工智能技术发展仍处于起步阶段，面临数字基础设施薄弱、电力供应不稳、人工智能人才短缺等多重挑战 [12] - 非洲拥有全球最年轻的人口结构和快速增长的数字经济潜力，可以成为人工智能全球治理体系的重要组成部分 [12] - 需要确保各国都享有平等发展和利用人工智能的权利，构建一个真正包容、可持续的人工智能全球治理体系 [9]

人工智能的智能本质 - 当前大语言模型能模仿人类对话，但缺乏具有自主意识的“内在世界”和自我生成的活动与规划记忆能力[4][8] - 大语言模型的知识量巨大，远超任何个人，但意识与自我意识的出现仍难以预测[4][9] - 智能的定义丰富，包括人类智能、人工智能、军事智能等，它们有类似之处但也存在巨大差异[8] 人工智能的风险与治理 - 人工智能风险主要分为三类：恶用风险、技术失控风险以及系统风险[4][28] - 监管应以防止损害为目标，最佳方式是业界自我监管辅以国际合作，类似核能领域的全球协作[4][13] - 欧盟的人工智能法案是基于应用场景的微观管理，可能并非最适合AI的监管方式[13] - 建立类似“AI-CERN”的国际联合实验室或合作机制是值得探索的治理路径[4][20][29] 人工智能对就业与社会的影响 - 斯坦福报告显示，年轻人受人工智能对就业的冲击很大[4][21] - 应对之策是拥抱变化、学习新技能，人工智能领域已涌现超过10万家初创公司，带来大量新机遇[4][22] - 人工智能助手可以帮助提高工作效率，例如在编码中提高效率并对代码进行注释[21] - 人文社科背景的人士可通过成为“提示词工程师”等新角色，将语言才华与人工智能结合，获得高薪机会[22] 人工智能的技术发展与未来方向 - 未来AI发展可借鉴大脑的三维结构与高效学习方式，但在散热、能耗等方面仍面临挑战，距离真正类脑智能尚有长路[5][23] - 当前数据中心效率不及人脑，未来十年将出现专用处理器和针对性设计，并需要更有效的冷却技术[23] - 大语言模型的训练过程中存在类似物理学“相变”的现象，参数增加可能导致表现发生“双曲线下降”等意想不到的变化[19] - 神经科学与人工智能的交叉发展是一个新开启的领域，基于神经网络的人工智能其架构更接近人类大脑，但仍是基于规则的行为[10] 人工智能的理论与研究生态 - 人工智能技术的发展类似“认知蒸汽机”的进步，目前可能处于类似“热力学”理论出台之前的时代，需要新的数学理论来描述高维空间[11] - 私营企业（如谷歌、AT&T的贝尔实验室）资助科学研究有先例，其创造的数据中心等应被视为国家甚至全球资产[18] - 创新研究依赖于科技公司控制的基础设施和数据库，这引发了关于如何保持人工智能科学基石开放的深刻问题[18] - 在NeurIPS等国际会议上，有超过26000名与会者，其中约20%到25%来自中国，中国对机器学习和AI的贡献巨大[15]