人工智能安全与治理的重要性 - 人工智能发展带来机遇的同时也面临隐私侵犯、虚假信息、偏见歧视等风险，安全与治理是确保其稳健发展的关键[1] - 全球已有十数个国家成立人工智能安全研究机构，中国作为创新大国需在国际合作中发挥中坚力量[1] 北京人工智能安全与治理实验室的成立与发展 - 2024年9月实验室在北京市经信局、网信办等多部门支持下成立，得到中科院、北大、清华等机构支持[2] - 2025年3月实验室参与发布"北京人工智能安全与治理协同创新矩阵"，联合6家北京市重点实验室推进前沿研究[2] 实验室的研究成果与国际合作 - 技术安全方面发表生成式AI大模型行为机理、安全护栏等研究，成果发表于AAAI 2025、ICLR 2025等顶级会议[3] - 参与编写《全球人工智能安全指数》和《以普惠包容的人工智能治理赋能全球可持续发展》报告[3][5] - 受邀参加巴黎AI行动峰会、新加坡AI大会等国际会议，研究成果被《新加坡人工智能安全研究优先事项共识》引用[5][9][12] 北京前瞻人工智能安全与治理研究院的成立 - 2025年实验室升级为正式研究院，英文名沿用Beijing-AISI，主管单位为北京市经信局[11] - 研究院定位为新型研发机构，聚焦前沿理论研究、技术研发、标准制定及平台构建，为企业和社会提供AI安全服务[13] 研究院的治理理念与合作网络 - 强调安全与治理并重，安全是"刹车"而治理是"方向盘"，需产业、教育、政府等多方共同参与[14] - 汇聚中科院自动化所、中国信通院、北大、清华等科研团队，联合中科闻歌、瑞莱智慧等企业开展研究与实践[16] - 目标是为全球AI安全治理贡献中国方案，引领AI可持续发展[16]