报告发布背景 - 报告《为人类共同福祉构建全球人工智能安全与治理体系》于2025年世界互联网大会乌镇峰会的人工智能技术创新与治理论坛上发布 [1] - 该报告是世界互联网大会在本次乌镇峰会期间发布的三大报告之一 [1] - 报告由世界互联网大会人工智能专业委员会安全与治理推进计划研究成果 [1] - 北京前瞻人工智能安全与治理研究院全程参与了报告的组织、编写与发布 [3] 报告核心研究主题 - 报告围绕“全球人工智能安全与治理体系设计”主题开展研究 [4] - 系统梳理了当前全球人工智能安全与治理体系的探索与实践、应解决的关键问题及其他领域的全球治理多边实践经验 [4] - 探讨如何从人类命运共同体的理念出发，构建具有广泛国际共识的全球人工智能安全与治理体系 [4] 当前人工智能治理面临的挑战 - 人工智能技术向更广泛、更深层次场景拓展，其治理挑战随之复杂化并呈系统性外溢 [4] - 人工智能风险的持续累积与地缘政治因素叠加，进一步加剧全球治理困境 [4] - 当前治理格局呈现显著碎片化，安全与治理需求日益紧迫 [4] - 全球治理努力存在结构性局限，面临亟待解决的关键问题 [5] - 关键问题包括有效应对人工智能快速发展带来的技术安全风险及其衍生风险的不确定性 [5] - 关键问题还包括如何协调人工智能多利益攸关方之间的复杂互动，避免失序带来的治理真空 [5] 构建全球治理体系的建议路径 - 各方应共同努力，通过强化风险应对协同机制、深化能力建设合作机制、健全履约审查与监督机制、完善科学研判与决策机制等，整合优化全球安全与治理资源 [6] - 共同推动构建以联合国为中心的，能够确保安全、确保包容、权责明晰、协调有力、权威高效的全球人工智能安全与治理体系 [6] - 人工智能的发展应以安全为前提、以福祉为目标、以普惠为价值、以合作为途径，最终造福于人类福祉 [6] - 国际社会需凝聚共同的风险认知，建立一致的行动框架，并通过机制的设计与完善，确保人工智能技术在安全、可控、包容的轨道上发展 [6]