AI生成内容在短视频平台的滥用现象 - 主流短视频平台出现大量针对老年女性用户的“AI霸总”视频，这些视频使用AI生成穿着西装的男性形象，配以深情话术和抒情音乐，部分形象与明星“撞脸”，视频底部标注“作品含AI生成” [3] - 此类“AI霸总”视频点赞量动辄上千，评论区吸引大量老年用户热情互动，但背后存在情感变现风险，包括诱导带货或转账，有用户反馈家中老人因此陷入网恋骗局 [3] AI技术滥用导致的诈骗与侵权趋势 - 利用AI进行诈骗、造谣等违法犯罪行为近一年来屡禁不止、愈演愈烈，呈显著上升趋势，犯罪行为更具迷惑性和隐蔽性 [4] - 生成式AI技术的突飞猛进及持续开源开放，导致大量工具和产品问世，极大降低了不法分子的作恶门槛和成本 [4] - 公安部数据显示，2025年上半年全国电信网络诈骗涉案金额超百亿，仅2025年第一季度，全国AI换脸、拟声诈骗案件数量环比激增45%，其中老年群体受骗占比达到38% [6] AI换脸/拟声技术的商业化与侵权泛滥 - 在电商平台，定制一条以名人声音“讲话”的视频报价为200元，制作AI换脸视频的价格在20元至500元不等 [4][9][10] - AI侵权对象已从明星迅速蔓延至普通民众，让维权变得更加困难，有普通博主发现自己的脸被他人套用 [4][11][13] - 各类可自行操作的AI工具让换脸和拟声变得人人可及，国内外多款AI视频软件无需专业知识即可生成逼真人物视频 [10] 针对明星的AI侵权案例与影响 - 演员靳东的形象被不法分子利用AI换脸伪造，在短视频平台针对中老年群体实施情感诈骗与非法集资 [16] - 演员王劲松发文称自己的形象被某视频账号盗用并AI换脸，用于商业推广，原始素材来自其2020年拍摄的电视剧 [10] - 演员温峥嵘因网络上层出不穷的“AI分身”，被迫开启多场“我是真的温峥嵘”直播以正视听，其团队一天内曾举报50个假冒账号 [11] 法律与平台治理现状及挑战 - 法律层面，未经授权使用AI技术生成自然人面部特征、声音用于营利，构成肖像权侵权，北京互联网法院曾判令一起AI侵权案被告道歉并赔偿12万元 [16] - 平台治理方面，微信累计处置AI仿冒名人违规内容1.3万余条，封禁账号1200余个；抖音电商累计处置侵权仿冒达人账号1.1万个，处置仿冒李亚鹏等名人的侵权内容16.5万条，关闭136个相关违规达人电商权限并冻结佣金30天 [17] - 现有治理存在侵权成本过低、平台责任虚化、维权链条过长的困境，权利人需经历取证、公证、诉讼等漫长流程 [17] 技术鉴伪与未来治理方向 - 对AI的鉴伪被形容为一场“猫鼠游戏”，此消彼长，相互博弈，对AI骗局的识别需随着生成技术的进展不断研究、更新、迭代，没有终点 [18] - 部分AI技术平台开始采取限制措施，例如豆包旗下视频生成模型Seedance2.0上线后，禁止生成明星、公众人物、网红等真实人物肖像/视频/语音 [17] - 治理AI换脸乱象的关键在于对现有法律进行针对性修补，例如引入惩罚性赔偿机制，同时将平台责任从“事后删除”前移至“事前审核” [17]