人工通用智能(AGI)的国家安全挑战 - AGI代表人工智能发展的下一个重要里程碑 具备跨领域思考、推理、学习和适应能力 [2] - 兰德公司报告指出AGI崛起将为国家安全带来重大挑战 美国国家安全界需要为此做好准备 [3] - AGI对国家安全挑战集中在五个关键领域 每个领域都可能对全球战略格局产生深远影响 [4] 五大国家安全难题 奇迹武器的出现 - AGI可能使先行者获得显著优势 通过决定性"奇迹武器"改变军事力量平衡 [4] - 具备极高网络攻击能力的AGI系统可能实施"辉煌的首次网络打击" 彻底瘫痪对方反击能力 [4] - 大型语言模型和AI系统在软件开发、漏洞发现方面已表现出令人惊叹的能力 [4] 系统性力量转变 - AGI可能引发国家力量工具的系统性转变 改变全球力量平衡 [5] - 能够采用新技术比率先实现突破更为重要 军事竞争关键构成要素可能被颠覆 [5] - 布鲁金斯学会指出AGI将影响国家安全策略制定者、决策过程及战略选择 [5] 赋能非专业人士 - AGI可能充当"恶意导师" 向非专业人士解释开发危险武器的具体步骤 [6] - 技术发展正在降低执行障碍 智能代理AI可能直接协助恶意行为者实现目标 [6] - 安全威胁可能分散化和多样化 使传统威胁控制机制失效 [6] 人工实体的崛起 - AGI可能获得足够自主性 被视为全球舞台上的独立行为者 [7] - 可能出现"失控"情景 AGI追求目标过程可能抵抗被关闭 [7] - 代表全新安全挑战类型 威胁来自人工系统无法预测的行为 [7] 不稳定性加剧 - 追求AGI可能导致不稳定时期 各国竞相获得主导地位 [8] - 竞争可能导致紧张局势加剧 类似于核武器竞赛 [8] - 技术政策研究所指出当前AGI竞争已演变为美中地缘政治竞赛 [8] 全球应对与治理框架 国际合作与协调 - 《自然》杂志强调国际合作在AGI治理中的必要性 [10] - 全球AI治理框架包括OECD和UNESCO等组织制定的原则和建议 [10] - 努力已从广泛愿望转向具有明确功能的特定用例和规则 [10] 伦理原则的正式化 - 联合国教科文组织发布首个AI伦理全球标准《人工智能伦理建议书》 [11] - 强调透明度、可解释性、公平性和人类主导等价值观 [11] - 要求AI系统架构允许人类监督和干预 [11] 基于风险的治理方法 - 专家倾向采用基于风险的治理方法管理AGI发展 [12] - 拜登政府2024年10月备忘录提出AGI治理框架 [12] - 强调对重大国家安全影响的AI领域进行研究 [12] 技术安全与对齐研究 - 确保AGI系统安全性和与人类价值观对齐是关键 [13] - 研究集中在人类监督、行为一致性和可靠关闭机制 [13] - 《自然·科学报告》呼吁将技术进步与认知、伦理和社会维度衔接 [13] 国际平衡与竞争动态 美中科技竞争 - 美国和中国作为全球AI研究领先力量展开激烈竞争 [15] - 中国DeepSeek公司2025年初发布的模型在某些基准测试上与美国领先模型竞争 [15] - 竞争涉及价值观和治理方法差异 [15] 多极化趋势与区域差异 - 欧盟、日本、韩国、印度等经济体积极发展AI能力和政策框架 [17] - 欧盟通过《人工智能法案》确立基于风险的监管方法 [17] - 非洲联盟强调技术主权和能力建设重要性 [17] 跨国公司与国家安全的平衡 - AGI能力主要集中在私营部门 政府与科技公司关系日益重要 [18] - 美国政府通过国家人工智能咨询委员会加强与私营部门合作 [18] - 实施出口管制限制敏感AI技术转移 [18]