Workflow
AI拟声
icon
搜索文档
明星们,要被“假带货”玩坏了
创业邦· 2025-05-19 07:55
AI拟声技术滥用现象 - AI技术被大规模用于伪造名人声音进行商业欺诈,包括全红婵、张文宏、古天乐、雷军等公众人物被仿冒带货[3][7] - 最低仅需1元即可在二手平台购买"声音克隆工具包",200元可定制明星AI配音,50元可克隆素人声音[7][10] - 技术门槛极低,仅需采集少量声音样本即可在几秒内完成克隆,应用商店相关App下载量最高超千万次[14] 行业影响与商业模式 - 短视频平台成为重灾区,仿冒账号利用综艺片段作为原材料,通过AI修改字幕和配音批量生产虚假带货视频[10] - 形成灰色产业链,商家通过AI伪造明星代言低成本引流起号,规避正规代言费用[10] - 涉事店铺多为2024年新注册账号,商品存在资质不明、厂商不清等问题,宣传素材高度雷同[11] 技术应用现状 - AI拟声技术已从娱乐用途(如"AI孙燕姿"翻唱)演变为商业欺诈工具[7] - 普通用户可通过198元会员服务生成任意内容的出镜口播视频,无需提供声音授权证明[14] - 社交平台存在超过4万条AI合成明星声音教程,二手交易平台克隆服务低至10元以内[15] 法律与社会应对 - 北京互联网法院2024年4月宣判全国首例"AI声音侵权案",明确自然人声音权益保护范围[15] - 9月1日将上线"白名单制度"规范AI作品,但水印提示的实际效果存疑[15] - 专家建议需提高社会对真实性的鉴别能力,立法防止技术滥用[15]
明星们,要被“假带货”玩坏了
虎嗅· 2025-05-09 18:19
AI拟声技术滥用现象 - 短视频平台出现数十个仿冒账号利用AI伪造全红婵声音售卖蜂蜜和驼奶粉 [2][3] - 去年12月出现伪造张文宏讲解蛋白棒的AI假视频导致大量中老年人受骗下单销量破千 [8] - 平台利用AI技术合成古天乐林峰等港星肖像声音制作赌博游戏代言宣传片 [8] - 小米CEO雷军声音被伪造用于虚假理财广告 [8] - 张馨予声音和表情被AI伪造用于推荐减肥药视频播放量高且难以辨别 [11][12] AI拟声产业链 - 电商平台提供明星声音200元一条素人50元一条的AI配音服务 [15] - 手机应用商店有数十款AI配音App下载量最高超千万次 [25] - 闲鱼App上一次AI声音克隆低至10元以内小红书相关帖子多达4w+条 [26] - 198元即可解锁付费会员功能生成各类出镜口播视频无需授权证明 [25] 行业影响与危害 - 热播综艺片段被批量篡改植入保健品减肥药广告形成流水线生产模式 [13][14] - AI拟声带货商品存在资质不明厂商不清问题涉事店铺多为2024年新注册账号 [17] - 平台缺乏AI生成内容提示客观上助推假带货风气 [17] - 技术滥用导致肖像权名誉权双重侵害同时增加消费者误购劣质商品风险 [16] 技术原理与门槛 - 只需采集声音频率音色声调等关键特征配合语速情感参数即可在几秒内完成克隆 [22] - 声音样本来源多样包括推销电话公开演讲客服回电等 [23] - 技术门槛相当于安装手机修图App且逼真度持续提升 [24] 监管与应对 - 北京互联网法院2024年4月宣判全国首例AI声音侵权案明确自然人声音权益保护范围 [28] - 9月1日将上线"白名单制度"要求AI作品"持证上岗" [28] - 目前平台标注"内容为AI技术制作"的实际效果存疑尤其对中老年群体 [29]