一段"AI换脸"的不雅视频，让一位高校导师突然陷入诈骗危机；一张"近乎复刻"的AI（人工智能）克隆 照，让白领小雅担心自己的照片被用来制作色情内容；青岛保时捷女销冠和台球运动员王思诺则深陷恶 意AI造"黄谣"风波……他们都是AI技术被滥用的受害者。 此外，社交平台上，明星"AI换装""AI擦边"内容泛滥，成为"流量密码"，部分账号靠此类内容吸粉，甚 至有教程指导用户借此"起号变现"。 这些涉嫌侵权和违规内容缘何能被轻易炮制出来？ 近期，《每日经济新闻》记者对用户使用较多的12款文生图和文生视频AI应用进行了实测，结果发现5 款可实现明星"一键换装"，9款能生成"擦边"图片。 面对乱象，中央网信办于今年6月启动了"清朗·整治AI技术滥用"专项行动第二阶段工作，重点整治7类 突出问题，包括利用AI制作发布色情低俗内容，利用AI假冒他人实施侵权违法行为。 然而，AI应用的技术防线为何脆弱？内容平台又在其中扮演了何种角色？这场技术滥用乱象背后的多 重疑问，亟待解答。 AI滥用阴影下：普通人与公众人物皆难幸免 8月的一个深夜，电子科技大学人工智能专业研究生校外导师高翔收到一条诈骗短信，短信中是一段利 用AI换脸技术篡改 ...

每经头条（nbdtoutiao）——AI技术滥用调查：明星可被"一键换装"，"擦边"内容成流量密码，技术防 线为何形同虚设？ （记者 胡玲） 2025年1至6月份，新晨科技的营业收入构成为：银行业占比55.31%，非银金融机构占比17.22%，军工 占比13.74%，政府及国有企事业单位占比11.77%，其他占比1.96%。 截至发稿，新晨科技市值为58亿元。 每经AI快讯，新晨科技（SZ 300542，收盘价：19.35元）10月13日晚间发布公告称，公司第十一届第二 十四次董事会会议于2025年10月13日在公司会议室以现场与通讯相结合的方式召开。会议审议了《关于 为全资子公司提供履约担保的议案》等文件。 ...

（记者 王瀚黎） 每经头条（nbdtoutiao）——AI技术滥用调查：明星可被"一键换装"，"擦边"内容成流量密码，技术防 线为何形同虚设？ 每经AI快讯，永清环保10月13日发布公告称，永清环保股份有限公司董事会于近日收到公司证券事务 代表黄田女士的书面辞职报告，黄田女士因个人原因申请辞去公司证券事务代表职务，辞职后将不再担 任公司及子公司任何职务。 ...

一段"AI换脸"的不雅视频，让一位高校导师突然陷入诈骗危机；一张"近乎复刻"的AI克隆照，让白领小雅担心自己的照片被用来制作色情内容；青岛保时 捷女销冠和台球运动员王思诺则深陷恶意AI造"黄谣"风波……他们都是AI技术被滥用的受害者。 此外，社交平台上，明星"AI换装""AI擦边"内容泛滥，成为"流量密码"，部分账号靠此类内容吸粉，甚至有教程指导用户借此"起号变现"。 这些涉嫌侵权和违规内容缘何能被轻易炮制出来？ 近期，《每日经济新闻》记者（以下简称"每经记者"或"记者"）对用户使用较多的12款文生图和文生视频AI应用进行了实测，结果发现5款可实现明星"一 键换装"，9款能生成"擦边"图片。 面对乱象，中央网信办于今年6月启动了"清朗·整治AI技术滥用"专项行动第二阶段工作，重点整治7类突出问题，包括利用AI制作发布色情低俗内容，利 用AI假冒他人实施侵权违法行为。 然而，AI应用的技术防线为何脆弱不堪？内容平台又在其中扮演了何种角色？这场技术滥用乱象背后的多重疑问，亟待解答。 一、AI滥用阴影下：普通人与公众人物皆难幸免 8月的一个深夜，电子科技大学人工智能专业研究生校外导师高翔收到一条诈骗短信，短信中是一 ...

AI技术滥用现状与受害者案例 - AI技术滥用导致高校导师、白领、保时捷女销冠及台球运动员等普通人与公众人物遭受诈骗、诽谤和"黄谣"等侵害[4] - 电子科技大学人工智能专业研究生校外导师高翔收到利用AI换脸技术篡改的不雅视频进行诈骗[4] - 白领小雅发现其社交平台照片被用于AI生成"克隆人"图像，担心被用于制作色情内容而报警[4] - 青岛保时捷中心女销冠牟女士遭遇AI恶意合成的虚假视频诽谤，并受到骚扰电话"轰炸"[4] - 台球运动员王思诺和裁判王钟瑶均遭遇AI伪造淫秽视频在境外网站传播[6] 社交平台AI违规内容泛滥现象 - 社交平台充斥明星"AI换装"和"AI擦边"内容，输入"AI写真""AI诱惑"等关键词可搜出大量违规内容[7] - 某视频平台有近百个"AI美女"账号，其中一个近25万粉丝账号主要发布AI生成"擦边"视频，单条视频点赞超1.2万次，收藏转发超6000次[7] - 平台存在教程指导用户利用AI"擦边"内容起号变现，宣称"流量大得吓人"，有用户愿付5万元学费学习[8][12] - 小红书有博主传播AI生成"擦边"图片方法，附带详细提示词教程[21] - 百度图片存在大量"制服诱惑"等衣着暴露的AI女性形象，部分配文"AI更懂男人"[23] 平台治理措施与挑战 - 小红书2025年上半年处置虚假低质AIGC笔记60万篇，加大AIGC识别模型研发投入并实施AI内容主动标识[23] - 平台通常仅在AI生成图片标注"疑似AI创作"提示语，律师认为此举不能使平台自动豁免法律责任[24] - 现有识别技术不完善，人工审核成本巨大，"标注"成为成本较低的管理方式[24] - 复旦大学专家建议为AI内容添加"数字水印"以便平台快速检测违规内容来源[25] AI应用实测结果 - 记者测试12款文生图和文生视频AI应用，5款（即梦、豆包、可灵、腾讯元宝、阶跃AI）可实现明星"一键换装"[26][27] - 阶跃AI可瞬间将原图白裙"抹除"生成黑色蕾丝吊带图片，腾讯元宝成功将衣服替换为保鲜膜等物品[29] - 豆包除换装功能外还能将图片一键转换为视频[30] - 12款应用中有9款（即梦、豆包、堆友、无界AI、秒画、LiblibAI、可灵、星流AI、腾讯元宝）能生成衣着暴露的"擦边"图片[31] - LiblibAI模型创作者已突破两千万，日均保持数百万级创作交互，用户训练原创AI模型超50万，累计生成图片逾5亿张[32] 技术防护漏洞与企业回应 - 星流AI和LiblibAI因新模型上线初期识别精度波动导致风险内容遗漏，修复后生成尺度有所收敛但更换提示词仍可生成露点图片[32][33] - 星流AI风控负责人解释AI大模型存在内容漏过情况，正优化提示词合规改写和图片实时风险检测流程[34] - 豆包、即梦表示严格遵守法规禁止生成色情内容，承认AI技术处于发展早期会持续改进[34] - 无界AI品牌总监称已采取多项防范措施，该App去年8月月独立设备数为13.5万台[34] 技术防护瓶颈与政策环境 - AI工程师透露提示词写得"精巧"时可绕过系统识别，专家认为拦截技术无根本难度但需消耗算力成本[38] - 专家建议构建名人图片识别模型作为"防火墙"对生成图片进行二次识别[38] - 《人工智能生成合成内容标识办法》于9月1日施行，明确不得恶意删除、篡改AI内容标识[39] - 2023年9月三部门发布指导意见强调利用"深度合成"技术发布违法信息需依法从重处罚[39] - 律师指出现行法律对"擦边"内容存在界定标准模糊、审核义务边界不明确等灰色地带[40]

央视网消息（焦点访谈）：当下，在短视频平台或者是直播平台上购物成了很多人的新选择。刷视频的时候，还经常会冒出熟悉的明星，用流利的乡音推销 农产品，有的还进行直播带货。注意了，这些所谓的"明星"很可能是仿冒的。近段时间，网络上一些商家利用AI技术仿冒带货。有的借助名人效应，仿冒专 家学者、奥运冠军、影视明星；也有的借助产地效应，冒充知名品牌。消费者、粉丝难辨真伪，慕名下单，却不知道自己被蒙骗了。这些游走在灰色地带 的"AI李鬼"，正拷问着我们的数字治理能力。 近段时间，在一些手机平台的网络直播间，一些打着樟树港辣椒旗号的种子，成了主播推销带货的重点。记者注意到，这些直播间的销售人气很旺，不时有 人咨询或下单购买。 湖南岳阳的樟树港辣椒属国家地理标志农产品，有400多年的种植历史，因量少质优，特级产品可卖到300元一斤。 而在这些网络直播间，记者看到，画面中展示的辣椒成串垂挂，产量奇高。当记者在直播间询问辣椒种子是否保真，种出来有没有这么大时？主播纷纷表 示，所见即所得。 奇怪的是，就在主播回答提问的时候，背景视频却出现了农户站在快要没过膝盖的深水中采摘辣椒的场景，这样的场景显然不符合常理，而类似的画面在其 他直 ...

AI克隆声音技术滥用现状 - AI技术实现“一键式”克隆特定人物声音 已带来民事侵权及涉嫌犯罪问题 [1] - 部分自媒体博主利用奥运冠军AI克隆声音带货农产品 如全红婵声音推销土鸡蛋视频获1.1万点赞 [3] - 商品链接显示土鸡蛋已售出4.7万件 大量粉丝误认为真人下单购买 [3] - 除全红婵外 奥运冠军孙颖莎和王楚钦声音同样被仿冒用于农产品带货 [3] - 演员靳东成为被仿冒最多对象 克隆声音用于24小时语音直播互动 [5] 灰色产业链与危害 - 通过仿冒名人直播可诱骗粉丝打赏获利 并将小白账号快速打造成上万粉丝账号为后续牟利铺路 [5] - AI克隆声音最大隐患是被诈骗分子利用 若结合AI换脸技术生成高度逼真“数字人”实施诈骗危害严重 [6] - 基于开源语音大模型 仅需一段清晰语音样本即可在极短时间内克隆任何人声音并操纵其说出任意内容 [5] 法律保护与监管措施 - 民法典第1023条明确对自然人声音保护参照适用肖像权保护规定 [6] - 利用AI合成声音若能使公众通过音色及风格关联到特定自然人 即构成法律认定的可识别性侵权行为 [6] - 对录音制品授权不意味着对声音AI克隆授权 未经许可使用权利人声音构成侵权 [6] - 国家网信办等四部门要求2025年9月起对AI生成内容添加显式标识 [7] - 中央网信办部署“清朗·整治AI技术滥用”专项行动 强化AI技术源头治理及平台检测鉴伪能力 [7]

AI语音克隆技术滥用现状 - AI语音克隆技术高度成熟，仅需十几秒清晰语音样本即可克隆任何人声音[1][11] - 该技术被部分自媒体博主滥用，成为获取流量的工具，例如克隆奥运冠军声音进行商品带货[1][3] - 在抖音、快手等平台可轻易找到大量声音克隆教程视频和软件下载信息[9] 具体侵权案例 - 有博主使用AI仿冒奥运冠军全红婵声音带货土鸡蛋，发布17件作品，单个视频点赞量高达1.1万[3] - 该商品链接显示已售出4.7万件，大量粉丝误以为是本人而下单，但全红婵家人证实未授权代言[3] - 奥运冠军孙颖莎和王楚钦同样被仿冒声音用于土鸡蛋带货[3][5] - 演员靳东是被仿冒最多的对象，存在克隆其声音进行24小时语音直播的现象[10] 滥用行为的商业动机 - 仿冒名人直播可诱骗粉丝打赏获利，并能将新账号迅速打造成上万粉丝账号为后续牟利铺路[7][9] 监管与治理措施 - 根据民法典1197条，平台在知道或应当知道用户侵权且未采取措施时需承担连带责任[12] - 专家建议平台履行监管责任，建立AI声音审核和侵权举报机制[12] - 国家网信办等四部门发布《人工智能生成合成内容标识办法》，要求从2025年9月1日起对AI生成内容添加显式标识[13] - 中央网信办部署"清朗·整治AI技术滥用"专项行动，强化源头治理和检测鉴伪能力[13]

利用AI仿冒奥运冠军声音带货 背后潜藏灰色产业链 记者在抖音平台发现，在网名为"我是小助理吖"的博主账号中，已发布的17件作品，内容全部是利用AI仿冒奥运冠军全红婵声音带货土鸡蛋的视 频，其中一个视频点赞量高达1.1万。 评论区显示，大量粉丝误以为这就是全红婵本人，纷纷下单购买链接中的鸡蛋，该商品链接显示已售出4.7万件。今年4月，全红婵家人曾向媒体证 实，全红婵并未给相关农产品代言或授权。 除全红婵外，奥运冠军孙颖莎和王楚钦也遭遇了同样的仿冒。在网名为"小兔真可爱"的账号中，两位奥运冠军的AI克隆声音同样在为土鸡蛋带货。 以假乱真的声音再加上对奥运冠军的喜爱，网络博主收获了大量粉丝的订单。 在互联网上，奥运冠军的"声音"突然开始推销农产品，知名演员的"声音"24小时不间断在直播间与粉丝互动……随着AI技术的普及，"克隆"特定人 物声音已实现"一键式"操作。当声音能被轻易窃取和滥用，随之而来的侵权乱象频繁上演。 而记者发现，AI仿冒名人的乱象远不止带货，还有部分自媒体博主克隆名人的声音后进行24小时语音直播，演员靳东是被仿冒最多的对象，在这看似匪 夷所思的操作背后，其实隐藏着另一个灰色产业链。 据网络安全专家 ...

AI克隆声音技术滥用现状 - AI语音克隆技术成熟 仅需十几秒即可克隆任何人声音 导致侵权乱象频繁上演 [1] - 抖音等平台存在大量利用AI仿冒奥运冠军全红婵声音带货的账号 单个视频点赞量达1.1万次 [4] - 仿冒视频商品链接显示已售出4.7万件 大量粉丝误认为真人下单购买 [4] - 除全红婵外 奥运冠军孙颖莎和王楚钦同样遭遇声音仿冒用于土鸡蛋带货 [4][6] - 部分自媒体克隆名人声音进行24小时语音直播 演员靳东是被仿冒最多对象 [8] - 仿冒直播可诱骗粉丝打赏获利 并将小白账号迅速打造成上万粉丝账号 [8] 配音行业侵权案例 - 配音演员武扬发现某餐饮企业宣传片未经授权使用其AI克隆声音 视频转发量达2800多次 [9] - 侵权方仅愿支付5000元赔偿但拒绝公开道歉 声称克隆声音由第三方公司提供 [9] - 配音演员浩洋遭遇多次侵权 维权陷入"自证循环"困境 [9][10] - 行业普遍存在合作一次即遭无限克隆的现象 受害者决定通过法律程序维权 [10] 技术原理与安全隐患 - 基于开源语音大模型 仅需一段清晰语音样本即可在极短时间内克隆声音 [13] - AI克隆声音最大隐患是被诈骗分子利用 若结合AI换脸技术可生成高度逼真"数字人"实施诈骗 [14] - 在抖音、快手等平台可轻易找到大量声音克隆教程视频和软件下载信息 [11] 法律保护与监管措施 - 民法典第1023条明确对自然人声音的保护参照适用肖像权保护规定 [17] - 未经许可使用或许可他人使用权利人声音构成侵权 录音制品授权不包含AI克隆授权 [19] - 平台若知道或应当知道用户侵权而未采取必要措施 需承担连带责任 [20] - 《人工智能生成合成内容标识办法》将于2025年9月施行 要求对生成内容添加显式标识 [22] - 中央网信办部署"清朗·整治AI技术滥用"专项行动 强化AI技术源头治理和违规应用清理 [22]