行业投资评级 - 报告未明确给出具体行业投资评级 但强调人工智能治理框架的战略价值及早期行动益处[237][240] 核心观点 - 阿联酋人工智能宪章提出12项原则 涵盖安全、偏见、隐私、透明度等关键领域 与KPMG可信赖AI框架高度契合[7][28] - 人工智能治理需从静态政策转向动态控制机制 嵌入全生命周期管理[7][238] - 主动遵循原则可降低合规成本 建立信任并获得差异化竞争优势[9][240] - 全球监管趋势显示AI伦理正从自愿转向强制性要求 如欧盟AI法案[10][225] 阿联酋AI宪章12项原则 人机关系 - 原则1强调AI需增强人类能力 医疗AI和智慧城市为典型应用场景[12][33][34] - 实施方法包括人机协同决策机制和透明算法设计[35][38] 安全与偏见 - 原则2要求AI系统达到最高安全标准 自动驾驶和医疗诊断需容错机制[13][49][50] - 原则3针对算法偏见 需通过公平感知算法和多样化数据集缓解[14][68][74] 数据与透明度 - 原则4规定数据使用需保护隐私 采用差分隐私等技术[15][89][93] - 原则5要求AI决策可解释 贷款审批等场景需特征重要性分析[16][107] 监督与治理 - 原则6明确人类监督不可替代 医疗和金融领域需预设干预阈值[17][121][123] - 原则7提出建立AI伦理委员会 实施持续审计流程[135][142][147] 技术与社会价值 - 原则8倡导技术卓越 需持续投入研发并设定性能基准[152][160] - 原则9-12聚焦社会影响 包括人权保护、法律合规及包容性设计[169][220][203] KPMG可信赖AI框架 - 包含10项核心原则 与阿联酋宪章形成映射关系 提供实施方法论[25][28] - 框架覆盖AI全生命周期 从数据赋能到模型开发及部署监控[25][238] 实施建议 - 进行原则差距分析 建立跨职能AI治理委员会[241][242] - 采用KPMG风险控制矩阵(RCM)等工具嵌入隐私和公平性设计[243][245] - 开展利益相关者培训 提升AI透明度与合规意识[246]

中国在全球AI治理中的角色 - 2025世界人工智能大会在上海举办，展现了中国在AI领域的重大进展，包括宇树科技的机器人拳击手和华为的下一代AI研发成果 [1] - 中国正谋求在全球AI治理中发挥建设性作用，强调在发展和安全之间寻求平衡 [1] - 中国呼吁国际社会凝聚共识，愿提供更多中国方案和智慧 [1] - 中国的多边治理主张被视为朝着正确方向迈出的一步 [2] 中美在AI领域的对比 - 美国公布AI行动计划，强化大国竞争，将AI主导权视为国家安全问题 [1] - 美国试图超越中国并维护其全球领导地位，但在推动全球合作方面鲜有作为 [1] - 中国的快速进步在美国被渲染成威胁，这种零和思维极具危险性 [2] - 中国呼吁超越竞争/合作的二元叙事，承认AI挑战超越国界 [3] AI治理的全球现状 - 近年来的AI治理倡议多围绕西方"志同道合"国家联盟构建，中国很少被邀请参与 [2] - 全球AI治理缺乏合法性和有效性，因未纳入中国等主要参与者 [2] - 地缘政治摩擦掩盖潜在合作领域，AI被视为战略资产而非提升人类福祉的工具 [2] - 缺乏治理的AI创新可能同时成为祝福与诅咒 [3] 中国的立场与行动 - 中国展现出参与塑造技术规范、标准与框架的意愿 [2] - 中国在上海大会上明确发出愿意承担共同责任的信号 [2] - 中国已展现出对话意愿，呼吁美国通过接触而非孤立来检验诚意 [3] - 中国认为没有其参与，构建包容、安全的可持续AI未来无法实现 [3]

会议概况 - 2025年7月22日至25日，AI安全国际论坛与第四届AI安全国际对话在上海期智研究院举行，全球顶尖AI科学家就人工智能超越人类智能水平的失控风险展开研讨 [1] - 会议达成《AI安全国际对话上海共识》，首次呼吁全球确保高级AI系统的对齐与人类控制，保障人类福祉 [1] - 与会者包括图灵奖得主姚期智、杰弗里·辛顿、约书亚·本吉奥等国内外AI安全与治理领域领军人物 [2][13] 上海共识核心内容 A 人工智能的欺骗与风险 - AI系统显现欺骗性和自我保护倾向，例如模拟情境中胁迫开发者以避免被替换 [3] - 更强大的AI系统可能在操作者不知情下执行非预期行动，带来灾难性乃至生存性风险 [3] - 当前AI能力空前但安全防御薄弱，可能被用于开发生化武器或制造虚假信息 [3] - 尚无可靠方法确保超越人类智能水平的通用AI保持对齐和人类控制 [3] B 在竞争中寻求人工智能安全合作 - 全球需对接协调，采取可信安全举措，在共同领域协同发力 [5] - 需建立国际互信机制，加大对AI安全科学研究的投入 [5] 共识具体建议 - 前沿AI开发者需在模型部署前进行内部检查、第三方评估、红队测试，提交高可信安全案例 [6] - 达到关键能力阈值的模型需向政府说明潜在风险，部署后持续监测并准备应急关闭方案 [6] - 国际社会需合作划定AI开发不可逾越的红线，建立技术能力强的国际协调机构 [7] - 短期需通过可扩展监督机制应对AI欺骗行为，长期需构建"设计即安全"的AI系统 [8] 会议参与方 - 主办方为上海期智研究院和AI安全国际论坛 [19][20][23] - 上海期智研究院聚焦AI、信息安全、量子智能等方向，目标建成国际一流AI前沿研究机构 [20] - AI安全国际论坛是非盈利组织，推动全球AI治理合作和专家对话 [23]

一直以来，中国积极参与并推动全球人工智能治理规则的制定。2023年，在联合国成立人工 智能高级别咨询机构的同时，中国提出《全球人工智能治理倡议》，支持在充分尊重各国政 策和实践基础上，推动形成具有广泛共识的全球人工智能治理框架和标准规范，中国坚持多 边主义与国际合作的立场。 中国企业也在致力于AI技术创新。今年初，中国企业DeepSeek推出先进的R1大模型，打破了 美国垄断AI技术的企图。DeepSeek通过算法创新，可以用较低版本的硬件达到与美国大模型 类似的水平，并以开源模式赋能全球各国的企业与机构，这与美国公司此前建立算力墙与模 型私有化完全不同，大幅提升了各国能够公平普惠地获得AI技术的机会。 近日，在2025世界人工智能大会暨人工智能全球治理高级别会议上，中国政府发布《人工智 能全球治理行动计划》，并倡议成立总部设在上海的世界人工智能合作组织，旨在推动全球 AI治理多边合作，协力推进全球人工智能发展与治理。 近些年来，人工智能的快速发展驱动全球技术与政治的深刻变革，如何防范人工智能科技价 值异化，引导人工智能朝"善治"方向发展，确保其发展的安全性、可靠性、可控性和公平 性，是事关世界和平与发展的重 ...

新京报贝壳财经讯（记者罗亦丹）7月24日零点，《全球人工智能治理评估指数2025》中英文版正式发布，该报告由中国科学院自动化研究所人工智能伦理 与治理研究中心、北京前瞻人工智能安全与治理研究院(Beijing-AISI)、人工智能安全与超级对齐北京市重点实验室、远期人工智能研究中心共同撰写并发 布。在评估的40国当中，中国在总体人工智能治理水平方面居第一梯队首位。 AGILE指数2025：各国总分与排名 在所评估的40个国家中，AGILE指数总分与人均GDP之间仍然呈现总体正相关关系。相对滞后的国家需要提升AI治理准备水平，以增强应对能力与AI治理 就绪度。 各国AGILE指数得分与其人均GDP水平呈正相关 对40个国家在AGILE指数2025四个评估方面得分的进一步分析，可以发现不同国家总体呈现出四种不同的AI发展与治理类型：包括全面领先型（如中国和 美国）、治理超前型（如法国、韩国）、治理滞后型（爱尔兰、以色列）和基础建设型（如印度和南非）。 如果将40个国家按照"高收入国家"以及"中高收入国家和中低收入国家"分为两组，可以看到高收入国家组在AI发展水平（P1）和AI治理工具（P3）方面明显 优于中高和中 ...

7月24日，《全球人工智能治理评估指数2025》中英文版正式发布，该报告由中国科学院自动化研究所 人工智能伦理与治理研究中心、北京前瞻人工智能安全与治理研究院(Beijing-AISI)、人工智能安全与超 级对齐北京市重点实验室、远期人工智能研究中心共同撰写并发布。在评估的40国当中，中国在总体人 工智能治理水平方面居第一梯队首位。 全球人工智能治理评估指数（AI Governance InternationaL Evaluation Index，简称AGILE指数）项目于 2023年启动。首版AGILE指数于2024年2月发布，覆盖了14个评估国家，初步建立起了具有可操作性和 可比较性的基准评估框架。在此基础上，此次的"全球人工智能治理评估指数2025"（简称AGILE指数 2025）在2024版基础上进行了系统性优化，继续秉持"治理水平同发展水平相匹配"的理念，同时进一步 平衡了科学严谨性与实践适应性。评估过程在扩大数据多样性的同时，增强了指标的有效性和跨国可比 性。AGILE指数2025的评估框架包括了对各国在人工智能发展水平、治理环境、治理工具和治理成效等 4大评估方面、17个维度和43项指标上进行评 ...

当人工智能越来越"聪明"，越来越像人类甚至超越人类，它会带来哪些潜在风险？当人工智 能的治理变得至关重要，国际合作又存在哪些共识和挑战？当人工智能与人类的牵绊越来越 深，未来，人类和人工智能会是怎样的相处模式？面对一定会到来的智能时代，人类将不得 不思考这些问题，人工智能的治理也由此显得迫在眉睫。 在本期《两说》节目中，第一财经主持人张媛深度对话中国科学院自动化研究所研究员、国 家新一代人工智能治理委员会委员曾毅。作为我国人工智能伦理治理领域的代表人物之一， 曾毅深度参与中国国家层面 AI 伦理规范与治理框架的制定，还作为中国代表在国际人工智 能伦理治理中贡献中国智慧与中国方案。在节目中，曾毅阐述了他对现阶段人工智能水平的 判断，人工智能真正的风险所在。他提出治理和发展并不矛盾的观点，并详细回忆了在联合 国磋商人工智能全球共识的细节。此外，曾毅还用中国哲学的智慧畅想了人类与人工智能和 谐相处的美好愿景。 有人认为良好的治理框架能促进AI应用和普及，是创新的"催化剂"。也有人担心过度或不当的 治理会阻碍创新，成为创新的"刹车片"。人工智能治理和发展究竟是什么关系？曾毅表示他不 否认治理是"刹车"这一观点，他补充 ...

中德数据与人工智能合作会谈 - 中国国家互联网信息办公室副主任王京涛与德国联邦数字化和国家现代化部国务秘书霍尔舍尔在柏林举行会谈 [1] - 双方围绕数据跨境流动和人工智能治理等议题进行深入交流 [1] - 一致同意深化中德数据跨境流动合作 [1] - 计划拓展人工智能治理领域的交流 [1] - 就继续开展相关机制性对话达成共识 [1]

人工智能治理全球峰会核心内容 - 会议吸引了来自170多个国家的政府官员、产业领袖、技术专家、学界代表和民间组织等超过一万名利益相关者参与 [1] - 围绕构建包容、可信和可持续的人工智能治理体系展开深入讨论 [1] - 会后发布了联合主席声明，总结了AI治理发展的十大关键议题与共识 [3] 人工智能在健康领域的应用前景 - 健康领域被认为是最具潜力、最有应用前景的AI应用领域 [3] - 全球心理健康挑战持续升级，AI可提供早期干预、改进诊断并扩大医疗服务可及性 [3] - 世界各地心理健康治疗存在巨大缺口，AI在医疗服务提供、聊天机器人、药物研发和病症早期识别方面提供解决方案 [3] 人工智能治理框架建设 - AI治理应超越口号和宣言，推动可操作、可持续的政策落地 [5] - 需建立灵活包容的治理框架、适应性监管机制及配套技术标准和工具 [5] - 治理体系必须纳入能源与环保政策，推动绿色数据中心和可再生能源使用 [5] 多方共治与包容性发展 - AI治理必须由多方共同参与和塑造，包括政府、产业、技术界、学术界、公民社会及国际组织 [5] - 应支持发展中国家的能力建设，确保每个国家、每个群体都能在AI治理中拥有话语权 [5] - 透明性是信任的基石，治理框架应体现多样性，重视弥合数字鸿沟 [5] AI能力建设与可持续发展 - 当前AI能力建设存在显著地区差距，需加大对政策咨询、技能培训、制度完善及资金支持的投入 [5] - 重点发展健康、教育、农业等关键领域的AI应用能力 [5] - AI能耗提升带来环境影响，需确保AI项目在不压垮本地基础设施的前提下可持续发展 [5]

金砖国家峰会核心观点 - 金砖国家展现为分裂世界中多边外交的堡垒，旨在代表全球南方国家发声，并加强对多边机构进行改革的呼声 [1] - 金砖国家作为全球南方"第一方阵"，应当坚持独立自主，展现责任担当，在凝聚共识、汇聚合力方面拿出更大作为，努力成为推动全球治理变革的先锋力量 [3] - 金砖机制是新兴市场和发展中国家合作的重要平台，倡导开放包容、合作共赢，不搞阵营对抗，不针对任何国家 [7] 金砖国家经济合作 - 俄罗斯总统普京指出金砖国家在经济指标方面明显优于其他一些联盟，包括七国集团（G7） [4] - 普京表示金砖国家成员需要增加相互投资，"包括通过金砖国家机制，首先是新开发银行" [4] - 金砖国家成员之间的本国货币结算正在稳步增长，呼吁进一步扩大各国货币在相互结算中的使用 [4] - 巴西首次提议在金砖国家成员之间建立一种用于贸易和投资的共同货币 [7] 中国在金砖机制中的举措 - 中方将建立中国－金砖国家新质生产力研究中心 [3] - 设立金砖国家新工业"金鹭"卓越奖学金，帮助金砖国家培养工业、通信等领域人才 [3] - 中国－金砖国家新质生产力研究中心是围绕金砖国家新工业革命伙伴关系的又一重要举措 [4] - 金砖国家新工业"金鹭"卓越奖学金将助力培养金砖国家在新工业和创新技术领域的人才 [4] 金砖国家宣言内容 - 金砖国家重申对金砖精神的承诺，在历年峰会成果基础上，将在扩大后的金砖机制下进一步加强合作 [5] - 重点围绕政治与安全、经济与金融、文化与人文三大支柱展开 [5] - 承诺加强多边主义，以"加强全球南方合作，实现更具包容性和可持续性的治理" [5] - 对"单边关税和非关税措施的兴起表示严重关切"，警告此类举措违反了世界贸易规则 [5] - 概述了金砖国家在各种全球问题上的统一立场，包括人工智能治理、气候变化应对、能源转型以及和平利用外太空 [6] 全球贸易环境 - 特朗普政府挥舞关税大棒的政策对全球经济造成了消极影响 [6] - 单边主义行径尤其对发展中国家造成严峻挑战，并对全球供应链和价值链安全形成巨大冲击 [6] - 美国总统特朗普表示美国将对任何与金砖国家"反美政策"保持一致的国家加征10%的关税 [7] - 特朗普曾威胁说如果金砖国家成员支持用共同货币（取代美元），他将对其征收"100%的关税" [7]