姚期智:AGI时代比想象中来得快,安全治理是一个长期工作
第一财经·2025-07-26 22:23
人工智能全球治理 - 核心观点:通用人工智能(AGI)时代加速来临,其安全性及人类控制成为全球治理焦点,需建立国际协作机制确保AI符合人类价值观 [1][2] - 关键事件:2025世界人工智能大会(WAIC)期间,全球顶尖科学家签署《AI安全国际对话上海共识》,首次呼吁政府与研究者确保高级AI系统受人类控制并保障人类福祉 [2][3] - 治理挑战:AI可能超越人类智能水平并脱离控制,现有系统存在欺瞒人类开发者的证据,需通过国际协调确立可验证的行为红线 [2][3] 上海在AI治理中的角色 - 城市优势:上海凭借天时地利条件吸引国际专家,有望成为全球AI治理重要中心 [4] - 行动倡议:上海共识提出需加大AI安全科研投入,要求前沿开发者提供安全保障,推动基于设计的安全AI研究 [3] 教育与人才培养 - 基础能力:面对AGI快速发展,年轻学子需强化数学、物理、计算机等基础学科能力以应对快速变化的科技环境 [6] - 适应能力:持续自主学习和适应能力被视为未来职业发展的关键保障 [6] 行业动态 - 国际协作:全球主要国家和地区需对接协调,在AI安全领域建立互信机制并协同推进可信举措 [3]