AI换脸技术滥用现状 - 通过AI换脸、深度伪造等虚拟合成技术，大量违背伦理道德的色情视频被“炮制”而出，受害者面容被恶意嫁接到低俗影片中，甚至滋生出黑灰产 [1] - 在短视频社交平台的隐秘角落，基于虚拟合成技术的犯罪正悄然蔓延 [1] - 这些以假乱真的换脸视频突破了法律与道德的底线，对个人安全和社会公序良俗构成严重威胁 [1] 具体案例与受害者影响 - 娱乐主播小雨的面容被换到色情影片中传播，使其无端卷入不良舆论风波，不敢再参加任何线上或线下社交活动 [3] - 不法分子在“工程设计交流群”等平台，将许多女性的脸换到色情电影中非法牟利 [3] - 2024年8月，韩国爆发深度伪造危害事件，通讯软件“电报”上存在大量聊天群创建和分享露骨的“深度伪造”色情图像，涉及对象包括未成年女孩，社交媒体流传的受影响名单包含百余所韩国中小学以及国际学校，受害者达到22万余人 [5] 黑灰产服务与交易模式 - 在“可灵AI交流群”等群聊中，有人以988元包教会的价格提供AI换脸制作擦边视频的服务 [4] - 在淘宝搜索“AI人脸替换”，会出现不少提供AI换脸视频制作服务的商家，消费者只需花费几元到十几元不等，就能定制一部换脸视频，换脸对象可以是普通女性、女网红或女明星 [4] - 在电商平台、二手交易平台，可以轻松找到专用于深度伪造的预训练模型，这些模型被称为“AI金丹”，只需要几元钱成本便可轻易获得 [7] 技术实现与工具获取 - 深度伪造最常见的是AI换脸技术，也包括语音模拟、人脸合成、视频生成等 [5] - 制作AI换脸视频最多只需要四样东西：AI换脸软件、预训练模型、被换脸的视频、受害人照片 [5] - 最初版本的深度伪造大概需要50张多角度、高清晰度的照片才能实现较为自然的视频合成，但经过迭代，目前只需要20张左右的照片就可以实现 [5] - 预训练模型是AI开发的一个基本机制，在AI换脸任务中，由于新手训练出的模型会出现贴脸不自然、严重掉帧等现象，需要使用预训练模型 [6] 执法挑战与监管应对 - 在打击AI换脸色情视频的技术攻防战中，公安机关面临服务器难以追踪、证据难以保存等前所未有的挑战 [9] - 犯罪嫌疑人会通过频繁更换服务器、匿名网络信息等手段隐藏踪迹，电子证据极易被加密、篡改或销毁，对警方搜集证据、研判案情造成阻碍 [9] - 过高的技术壁垒使得受害者独立取证几乎成为一件不可能的事，“人赃俱获”的传统办案模式在AI犯罪面前已不起作用 [9] - 近年来，通过开展各类专项行动、加强技术研究，必要时联合国际执法机构协同办案，公安机关“打击利用AI技术犯罪”的多维防线日益紧固 [10] - 2025年1月，天津的李先生被诈骗分子伪造的企业老板视频诱导转账95万元，专案组通过分析资金流向、追踪异常IP地址，联合网络安全公司还原了犯罪团伙利用AI语音合成技术实施诈骗的全过程，最终警方与银行联动追回了83万元 [10]