报告行业投资评级 未提及 报告核心观点 随着人工智能技术向各行业加速渗透，其引发的伦理争议成全球焦点，我国人工智能伦理治理基本理念、规则体系、治理模式和国际主张初步形成，需优化完善具有中国特色的人工智能伦理风险治理路径，研究聚焦人工智能伦理风险内涵、治理现状及未来治理等问题 [4] 各部分总结 人工智能伦理风险 - 指在人工智能技术开发、部署和应用过程中，因技术特性、使用方式或管理缺陷等引发的侵犯个人权益、冲击社会秩序、违背人类价值观的伦理风险，可从侵权性、歧视性、社会性、责任性、失控性五个维度分析 [14] - 侵权性风险包括侵犯个人信息权、生命健康权、知识产权等，生成机制涉及技术漏洞、算法“黑箱”等 [14] - 歧视性风险指对特定群体产生不公正价值判断或决策结果，生成机制包括训练数据含隐性偏见等 [14] - 社会性风险指技术误用、滥用或局限对公共社会秩序造成负面影响，生成机制有训练数据含不良内容等 [14] - 责任性风险指造成负面影响后的责任界定难题，生成机制包括技术和模型决策过程难理解等 [14] - 失控性风险指人工智能行为及影响超出人类预设、理解和可控范围，生成机制有自主学习机制等 [14] 国际人工智能伦理治理实践 - 国际组织发布文件提出治理原则建议、搭建平台推动全球伦理共识、制定标准规范技术发展，如联合国、教科文组织等发布相关文件，世界数字技术院发布大模型安全领域国际标准，国际电信联盟发布或制定超200项相关规则标准 [15][23][24] - 举办人工智能系列峰会促使各国就全球治理问题达成共识，如2023年英国峰会、2024年首尔峰会、2025年巴黎行动峰会 [18] - 成立相关联盟推动形成国际共识，如2023年7月联合国工业发展组织宣布成立全球工业和制造业人工智能联盟 [19] 美欧人工智能伦理治理现状 - 美国治理方式柔性和自愿性，侧重产业促进和经验探索，以软性指导为主，联邦无统一立法，企业界影响较大，对内鼓励技术创新，对外强调超前发展 [28] - 欧盟治理方式刚性和严格性，治理文件规制明确，设有严格罚则，整体和成员国层面均建立监管机构，统一立法，政府主导，对内安全伦理优先，对外重视规则影响力 [30] 中国人工智能伦理治理现状 - 治理理念以人为本、健康发展、开放协同，以增进人类共同福祉为目标，保障社会安全、尊重人类权益，建立健全保障人工智能健康发展的法律法规等，鼓励国际合作 [32][33] - 治理规则初步形成法律、部门规章、规范文件的阶梯式体系，如《网络安全法》《生成式人工智能服务暂行管理办法》等 [32] - 治理模式包括政策引导与监管协调、技术标准与行业规范、公众监督与共治参与、落实要求与内部合规，明确人工智能伦理边界，引导行业自律，公众监督，企业合规 [39][42][43] - 国际主张输出中国治理方案、搭建全球治理机制、参与多边治理活动，如发布《全球人工智能治理倡议》，推动建设“一带一路”数字治理研究院 [41] 形势与要求 - 中央要求亟待落实，需健全完善人工智能监管机制，加强国际合作 [48] - 实践问题亟待解决，需平衡技术发展与伦理安全各维度矛盾，如技术普及与社会公平、自主决策与人类控制等 [49] - 企业诉求亟待回应，包括强化规则间协同性、基于场景化开展分类监管、提升规则和流程明确性 [46][50] 优化路径建议 - 持续完善法律法规体系，完善和更新现有法律，制定专项法规，适时起草综合性法律 [52][57] - 强化多元协同治理机制，政府加强执法监管，行业组织加大自律力度，企业强化合规管理，提高公众认知和监督能力 [54][58] - 深化国际治理合作，为全球AI治理贡献“中国方案”，调整合作策略，推动建立新秩序，引领发展方向 [55] - 统筹伦理治理与产业发展，建立技术与伦理协同创新体系，部署创新产品应用推广，探索新型激励机制 [56] 政法所人工智能治理工作 - 服务政府工作，支撑规则制定，包括法律法规、规章办法、行业标准层面；支撑行业治理，为多部门提供相关工作支撑 [60] - 助力企业合规，提供产品合规方案、企业合规流程、园区企业合规路径咨询及其他专项合规咨询 [60] - 提供市场咨询，服务地方政府，起草法规规章、编制政策规划、提供专项咨询 [62]