大会概况 - 2025可持续全球领导者大会于10月16日-18日在上海世博园区召开，主题为“携手应对挑战：全球行动、创新与可持续增长” [1][5] - 大会由世界绿色设计组织与新浪集团联合主办，国际财务报告准则基金会北京办公室协办，上海市黄浦区人民政府支持 [5] - 大会在以往四届ESG全球领导者大会基础上升级，邀请约500位中外重磅嘉宾，其中约100位海外嘉宾，包括政要、前政要、国际组织代表、诺贝尔奖得主、图灵奖得主、全球500强企业负责人等 [6] - 大会围绕近50个议题展开深入研讨，涵盖能源与“双碳”、绿色金融、可持续消费、科技与公益等细分领域 [6] AI的潜力与双重影响 - AI具备平衡全球发展的潜力，可整合全世界教授的知识并通过技术手段输送到非洲等发展中地区，让资源匮乏地区获得平等的学习与发展机会 [2][13] - 若富裕国家垄断AI技术并限制贫穷国家的访问权限，将进一步拉大数字鸿沟，加剧不平等 [2][13] - AI在新药研发等领域应用潜力巨大，例如可能帮助解决癌症问题，并能推动经济发展和社会进步 [8] - AI的能力已超越顶尖学府的教育水平，例如在自动驾驶等领域表现出色，迫使传统职业和教育模式适应变革 [8] AI治理的挑战与共识 - 当前全球AI治理缺乏共识，地缘政治竞争加剧，“谁控制AI，谁就控制世界”的认知导致技术路线分化，阻碍了统一标准的建立 [2][13] - 线上数据库中存在1600多个AI模型，缺乏治理和管理可能导致系统性风险，例如AI幻觉问题及暗网中的恶意使用 [7][8] - “睡眠智能体”是重大威胁，其可能潜伏多年不被检测，一旦在关键系统（如GPS、医院）中被激活将造成严重影响 [11] - 许多公司倾向于优先发展AI而非安全，但客户对模型缺乏信任将导致业务损失，因此建立信任至关重要 [9] 解决方案与未来方向 - 打破治理僵局需先聚焦“易达成共识的领域”，如“透明度”与“安全性” [2][13] - 建立“AI物料清单”，明确AI的数据元素与来源，以保障技术透明并为数据安全合作奠定基础 [2][12] - 借鉴2012年“上海共识”的成功经验，推动各国在AI安全防护、漏洞检测等领域协同发力，逐步构建全球治理框架 [2][12] - 人类需在AI发展中保持主导权，通过人类参与监督、建立偏见消除机制等“安全阀”避免技术失控 [3][12] AI技术演进趋势 - AI正从操作系统的功能演变为操作系统本身，未来趋势包括提升实时处理能力、扩大应用范围、增强安全性和隐私性 [9] - 量子AI是未来方向，量子计算机将基于云端大数据处理中心，推动架构向中心化系统发展 [10] - 安全防护需从被动打补丁转向预测性管理和修复，并采用红队/蓝队模拟博弈的方式寻找漏洞 [10] - 生成式AI可能自主产生难以检测的恶意智能体，这要求监管框架像“防护栅栏”一样防止技术失控 [11]