AI带货视频“批量化”生产 “AI李鬼”游走在灰色地带
中国青年报·2025-11-25 07:55
AI技术在电商营销中的应用现状 - 商家利用AI技术批量生成带货视频的现象日益增多,在电商运营中相当普遍,网络上甚至出现系统化教程 [1][2] - AI视频生成模型具备较强的语言理解和图像生成能力,能够根据文本描述生成逼真画面,但处理复杂物理规律时仍存在局限性,导致出现“穿模”等典型漏洞 [2] - 有教学博主传授利用AI工具对原视频人物进行“深度改造”的进阶操作,包括更换面部特征、调整体型与性别,一条演示视频的网络播放量破千万 [2] AI虚假营销的违法违规案例 - 出现仿冒专家学者、奥运冠军、影视明星为产品站台的案例,中国工程院院士张伯礼在公开场合展示冒用其形象与声音合成的AI伪造视频并进行打假 [1][4] - 有公司通过拥有数十万粉丝的视频账号,利用AI技术伪造中央广播电视总台主持人李梓萌的形象,宣传其销售的普通糖果类食品具有治疗功效,最终受到行政处罚 [5] - 天津中医药大学发布声明,指出多家机构冒用张伯礼院士之名通过社交媒体宣传产品、培训或评审活动,这些机构均与院士无任何关联 [5] 行业治理与技术应对措施 - 监管层面针对AI换脸、虚假广告等问题敢于“亮剑”,强调需要跨领域协同推进AI治理,包括监管加码、平台强化责任和网民参与 [6] - 部分广告企业构建全流程管理机制,某营销服务平台第三季度前置拦截涉AI违规素材84万余个,聚焦精准识别和从严处置 [6] - 对AI虚假广告的治理正从依赖人工审核向人机协同、智能识别方向演进,通过应用多模态大模型提升识别效率,系统可快速解析视频素材并定位违规内容 [7]