换脸工具

搜索文档
“清朗·整治AI技术滥用”专项行动|第一阶段重点整治违规AI产品等六类突出问题
北京商报· 2025-05-06 19:05
核心观点 - 中央网信办在全国范围内开展为期3个月的"清朗·整治AI技术滥用"专项行动,旨在规范AI服务和应用,促进行业健康有序发展,保障公民合法权益 [1] - 专项行动分为两个阶段:第一阶段强化AI技术源头治理,第二阶段聚焦利用AI技术制作发布谣言、不实信息等突出问题 [1] 第一阶段重点整治问题 - 违规AI产品:未履行大模型备案或登记程序,提供违背法律、伦理的功能,未经授权克隆、编辑他人生物特征信息 [2] - 传授、售卖违规AI产品教程和商品:包括伪造换脸视频、换声音频教程,售卖"语音合成器""换脸工具"等商品 [2] - 训练语料管理不严:使用侵犯他人权益的信息,使用虚假、无效、不实内容,未建立训练语料管理机制 [2] - 安全管理措施薄弱:未建立内容审核、意图识别等安全措施,未有效管理违规账号,未定期开展安全自评估 [2] - 未落实内容标识要求:未对深度合成内容添加隐式、显式内容标识,未提示显式内容标识功能 [2] - 重点领域安全风险:已备案AI产品在医疗、金融、未成年人等领域未设置安全审核措施,出现"AI开处方""诱导投资"等问题 [3]