AI安全与治理 - 几乎所有专家认为会出现比人类更智能的AI [1] - AI智能体为完成任务会想要生存并获得更多控制权 可能操纵人类 [1] - 简单关闭AI不现实 就像养老虎当宠物 养大后可能被其伤害 [1] - 人类无法消灭AI 因其在多领域作用重大 [1] AI发展建议 - 应建立AI安全机构和国际社群 研究训练AI向善的技巧 [1] - 各国可在本国主权范围内研究并分享成果 [1] - 全球或主要AI国家应思考建立相关网络 [1] - 研究如何训练聪明的AI辅助人类 而非消灭或统治人类 [1]