AI深度伪造技术发展现状 - 利用AI技术伪造明星代言视频已形成产业链，电商平台存在大量提供“AI影音修改”服务的商家，支持修改视频人物说话内容并同步口型，1分钟视频的报价在130元至400元人民币不等，有商家服务“已售1000+” [5] - 技术已从“AI换脸”升级为“AI对口型”，挑战肉眼辨认难度，部分虚假视频能做到声音、口型“完全看不出来真假”，连明星家人都难以分辨 [3][7] - 普通用户使用市面常见AI视频工具（如即梦AI、可灵AI、剪映、豆包）难以一次生成以假乱真的同款视频，这些工具在口型契合、音色克隆或人脸素材使用上存在限制，且生成视频多带有“AI生成”水印 [3][4][5] 平台审核与治理挑战 - 主流视频平台对AI生成视频的审核能力参差不齐，测试显示仅抖音能在视频上传后主动提示“作品含AI生成内容” [8] - 平台治理面临技术对抗，用户通过形象微调、面部遮挡、画面分屏等手段规避检测，且AI生成技术可快速更换“形象”，加大了泛化识别变体的难度 [9] - 平台已采取治理措施，例如建立社会知名人士肖像保护库、拦截仿冒营销内容，微信平台最近一个月累计处置违规内容12091条，关闭账号3281个，抖音电商累计处置违规侵权仿冒达人账号1.1万个，主动拦截侵权视频过万条 [9][10][11] 技术检测与法律风险 - AI生成技术与检测技术呈“螺旋上升”态势，检测难点在于部分AI视频生成模型技术路线不开源，平台检测模型需要时间更新以应对新版本生成模型，存在检测盲区 [9][10] - 依据《生成式人工智能服务管理暂行办法》，AI服务提供者有责任采取有效措施防范生成虚假信息，并对生成内容进行显著标识 [7] - 未经授权使用名人肖像和声音制作虚假广告视频，侵犯了肖像权，若视频内容与非法金融活动绑定，还可能侵犯名誉权，视频制作者、平台与AI工具提供方均可能涉及责任 [7][8][15] 关联金融诈骗活动 - 虚假明星代言视频多用于推广所谓“CRC”、“RWA生态”等概念的“财富平台”，此类活动已被多地金融监管机构定性为借金融创新概念炒作、诱导投资的“资金盘”骗局，涉嫌非法集资 [11][14][15] - 相关骗局已持续数年，涉及李连杰、于和伟等多位明星，华润集团早在2023年6月即发布公告澄清与“海外华润CRC”等商号无任何关联 [11][14] - 推广“CRC数字资产”等涉嫌诈骗或非法集资项目的幕后推手，利用名人效应制作AI视频进行虚假宣传，可能构成民事欺诈乃至触犯刑法，涉嫌诈骗罪或非法吸收公众存款罪 [15]