“换脸热舞”公主爆火,社媒狂欢背后的AI危局
虎嗅·2025-07-08 13:39
AI生成内容的热潮 - TikTok上出现大量以佳子公主为主角的AI生成视频,包括泳装和热舞等内容,部分视频播放量突破70万 [2][3] - Pinterest上出现未标注"AI生成"的佳子公主泳装写真,并被制作成表情包快速传播 [3][9] - 生成AI技术(如Deepfake)门槛降低,普通用户可通过TikTok的"AI Parody"功能或免费App(如PhotoDirector、Reface)轻松制作逼真换脸视频 [7][8] 平台与传播机制 - TikTok算法精准推送佳子公主的Deepfake视频,并借助"AI Alive"功能将静态照片转为动态视频,加速传播 [8] - 部分账号通过AI生成名人视频吸粉并盈利,包括订阅制、广告分成及NFT变现 [8][9] - TikTok虽要求AI生成内容标注"仅限娱乐",但多数视频未遵守规则,用户难以辨别真伪 [8] 监管与应对挑战 - 宫内厅对AI生成内容反应滞后,仅表态"必要时与警方及平台合作",但未提出具体措施 [4][12] - 日本法律对Deepfake缺乏针对性立法,而英国等国家已开始将部分AI工具列为非法 [13] - 宫内厅计划加强皇室成员行程保护及与平台协商删除违规内容,但全球性传播使治理难度加大 [12][14] 技术与行业影响 - Deepfake技术通过分析目标人物特征实现场景"嫁接",技术门槛低至"人人可当导演" [7] - AI生成内容已从娱乐向恶意滥用蔓延,日本一年内报告100多起"性的Deepfake"案件 [11] - 行业面临肖像权、隐私权及内容真实性挑战,监管与技术发展速度不匹配 [11][12]