人工智能产业发展现状 - 2024年中国人工智能产业规模超过9000亿元人民币，同比增长24% [1] - 中国人工智能企业数量超过5300家，已形成较完整的产业体系 [1] - 人工智能在制造业、金融、医疗等领域应用广泛，展现出降本增效和优化资源配置的巨大潜力 [1] 人工智能安全治理框架升级 - 《人工智能安全治理框架》2.0版正式发布，明确了对不同风险等级人工智能的管理要求 [1] - 新框架为各行业人员识别风险、落实责任提供了清晰指引，使治理更具可操作性 [1] - 框架升级彰显统筹发展与安全的治理智慧，为全球人工智能治理贡献中国方案 [1] 人工智能风险与挑战 - 2019年至2024年间，约74%的人工智能风险事件与安全问题直接相关 [1] - 2024年6月至2025年7月，全球公开报道的人工智能安全事件达59起 [1] - 风险事件涉及伪造诈骗、算法歧视、自动驾驶决策失误等多方面 [1] 人工智能治理原则与分类 - 治理原则强调包容审慎，发展人类可以信赖的人工智能，积极防范风险失控 [2] - 人工智能风险分为三类：技术本身缺陷、使用过程中的中途干扰、产生的连锁反应 [2] - 需依据风险类型采取有针对性的治理手段，让有关主体明确各阶段义务 [2] 生成式人工智能风险治理 - 针对深度伪造风险，需在模型开发阶段嵌入检测技术，输出环节落实内容标识与溯源要求 [3] - 人工智能服务提供者需防范不法分子利用换脸技术进行诈骗的行为 [3] - 监管部门应推动建立追溯系统，并通过公共教育提升公众对合成内容的辨识能力 [3] 协同治理与法规建设 - 综合治理需要政府、企业、科研机构和公众共同参与，进行全链条、全过程管理 [3] - 中国已出台《生成式人工智能服务管理暂行办法》等规范性文件 [3] - 学界推出《人工智能示范法3.0》等专家建议稿，构建有中国特色的治理体系 [3]