人工智能治理的政策背景与核心定位 - “十五五”规划建议提出加强人工智能治理，完善法律法规、政策制度、应用规范、伦理准则 [1] - 人工智能是一种具备自学习、自演化和广泛外溢效应的通用技术，其运行过程在数据、算法和算力的共同作用下不断生成新的行为模式和影响路径 [1] - 人工智能治理的核心在于实现治理方式的现代化，形成与技术发展阶段相适应、具有前瞻性和系统性的治理体系 [1] 当前人工智能治理的成效与进展 - 中国围绕算法推荐、深度合成、生成式人工智能等重点领域持续完善治理规则供给，通过出台规范性文件和配套制度对研发、应用和传播等关键环节进行引导和约束 [2] - 人工智能治理的制度基础正在逐步夯实，为技术健康发展划定了必要边界 [2] - 各地在数字政府、公共服务和城市运行等场景中加快探索人工智能应用，推动审批服务、监管执法和城市治理等环节提质增效 [2] - 人工智能以赋能治理的技术手段进入治理体系，倒逼治理主体更加重视对人工智能技术和应用本身的规范管理 [2] 当前人工智能治理存在的短板 - 当前治理仍以事后规范和问题应对为主，呈现出较为明显的跟随式特征 [3] - 治理介入节奏偏后，难以适应技术快速演化，规则制定往往滞后于技术发展 [3] - 治理方式偏重静态规范，依赖政策文件和制度文本，对具有自学习、自优化特征的算法系统缺乏持续监测、动态校准和可验证约束能力 [4] - 治理目标侧重风险防控，对合规、安全和风险防范方面着力较多，但对技术发展方向和优先服务公共目标的制度化引导仍显不足 [4][5] 推进人工智能治理现代化的方向与建议 - 推进人工智能治理现代化的关键在于前瞻性，需在治理节奏、治理工具和治理结构上系统前移 [6] - 前移治理介入，把治理要求嵌入技术全生命周期，在算法设计、模型训练、系统部署和迭代更新等关键节点同步嵌入合规、安全与责任要求 [6] - 健全风险评估机制，建立分级分类评估制度，将安全风险、伦理风险和社会影响纳入统一评估框架，在规模化应用前完成必要评估并在运行过程中开展动态复评 [6] - 预设运行边界和规则，通过模型审计、算法审计和技术标准等制度工具，明确数据使用边界、模型输出限制以及关键决策环节的人工干预和责任审核要求 [7][8] - 强化先导性安排，通过应用指引、负面清单和试点示范等方式，引导人工智能向增进公共利益和提升治理效能的领域集聚 [8]