核心观点 - AI换脸等技术滥用现象频发，操作门槛和违法成本极低，而监管和追责难度大，未来治理需依赖“用AI治AI”的技术博弈并构建完善的制度护栏 [3][5][13] 技术滥用现状 - 北京协和医院多名知名专家被AI换脸，用于“养生”“瘦身”等虚假宣传，甚至有AI生成的假医生打着医院旗号销售商品，相关话题阅读量超282万 [3] - 在某社交平台搜索“协和医院于康教授”，存在大量相关健康科普短视频，内容在介绍水果后为某养生讲堂公众号引流 [6] - AI换脸工具高度普及，手机小程序、开源软件使操作简化为“一键生成”，单次换脸成本低至几分钱 [6] - 苹果应用商店中，星绘App、脸猫App及AI换脸App的下载量分别达到21万、6.9万和3.2万 [7] - 电商平台有商家提供AI数字人克隆服务，参照人物形象和文案，最快2小时即可产出无AI水印的1:1克隆短视频，200字以内文案收费45元 [7] 违法成本与维权难度 - 多数案件仅处行政拘留或小额罚款，民事赔偿数额有限 [3][7] - AI深度伪造视频鉴别成本远高于造假成本，权利人维权周期长、程序复杂，部分权利人最终放弃维权 [8] - 制作商提出的免责声明无效，不能免除侵犯肖像权、欺诈消费者等法定责任 [11] 监管与溯源挑战 - 不法商家通过镜像翻转、画中画遮挡、对抗性噪声嵌入等方式规避检测，监管技术难以实时跟进 [9] - 平台监管被动，多以事后处理为主，处理速度远不及AI造假传播速度 [9] - 发布者和制作方有“脱身之道”，如在视频下方标注“AI生成，内容仅供参考”等小字提示 [11] 治理举措与未来方向 - 政策法规不断完善，如网信办开展“清朗·整治AI技术滥用”专项行动，《人工智能生成合成内容标识办法》于今年9月1日实施 [12] - 网信部门已清理相关违规信息8700余条，处置仿冒公众人物账号1.1万余个 [12] - “用AI治AI”是重要治理思路，AI治理技术围绕“侦测、溯源、阻断”展开，具有高效率与自动化特点 [13] - 未来治理需明确平台审查责任、发展溯源和水印技术、制定具体操作指南、加强国际司法协作 [12][13]