AI技术滥用现象 - 利用AI换脸技术假冒央视主持人李梓萌进行虚假带货，说话口音和演播厅背景高度仿真[3][18] - 假冒产品以低成本糖果冒充高价保健品，成本仅几元售价达数百元，产品执行标准明确为糖果类[6][20][22] - 假冒李梓萌的短视频宣称"深海鱼油能治疗头晕头痛"并承诺"央视把关保证"，几天内售出大批产品并增粉数十万[18][20] 仿冒手段特征 - AI换脸技术达到以假乱真程度，口型不自然且脸部图层脱离屏幕，但声音和面容与本人高度相似[10][22][24] - 不法分子截取新闻联播片段合成虚假视频，利用公众对央视平台的信任进行推广[3][28] - 假冒跳水运动员全红婵推荐土鸡蛋，将其照片印于产品包装制造代言假象[32][34] 受害群体特征 - 中老年群体因缺乏产品批文查验意识，凭对新闻主持人的信任下单购买[4] - 消费者通过亲友推荐扩散购买，误认为国家认可产品导致受骗规模扩大[6][34] - 粉丝对运动员代言存在天然信赖，基于对全红婵的喜爱冲动消费[34][36] 行业监管措施 - 市场监管部门查处国内首例AI虚假广告案，实施涉案人员抓捕并处以罚款[38][40] - 推行网络卖货实名制政策，从源头规范经营行为防止财产损失[40][42] - 央视通过核查主持人行程确认未参与商业活动，当事人采取法律手段维权[26][28] 技术双刃剑效应 - AI换脸技术满足用户低成本虚拟试装需求，零成本实现发型服装更换[12][13] - 技术滥用导致公众人物形象被非法用于商业场合，存在欺诈风险[15][16] - 综艺节目通过实时换脸演示反诈案例，揭示技术被用于伪造熟人借钱场景[8][10]

同一时间，同一个人，身着不同服装，"现身"不同的直播间推广产品，动作神态与本人高度相似。这是 媒体11月上旬报道演员温峥嵘遭遇"AI盗播"的场景。"如果你是温峥嵘，那我是谁？"她前去质问，却被 直播账号拉黑。这个案例让公众意识到：人工智能也可能成为造假的"放大器"。 新华社北京11月17日电 11月17日,《新华每日电讯》发表题为《当"李逵"遇上"AI李鬼"——如何在创新 与规制之间寻找平衡》的报道。 事实上，这并非孤例。不久前，央视主持人李梓萌的AI形象被用于开展与事实不符的营销宣传，北京 市场监管部门就此开出了全国首张"AI虚假广告案"罚单。这起"首案"的意义，不在于罚款数字，而在于 揭开了一个快速扩张的灰色地带——创新与滥用之间的界线，需要被重新划定。 从"李逵打李鬼"到"眼见不为实"，AI在释放巨大创新红利的同时，也让"信任"这一社会基石遭遇前所未 有的考验。法律、监管与平台规则，都必须回答同一个问题：当"真伪"界限被算法模糊，如何为真实负 责？ 本期议事厅，新华每日电讯智库研究与传播中心邀请来自法学界与平台方的嘉宾，共同探讨"AI换脸广 告"的法律边界与治理逻辑，试图在多方视角的交锋中，寻找创新与规 ...

案件基本情况 - 北京市场监管部门查处首例利用AI技术进行虚假广告宣传的案件 [1] - 案件源于今年2月消费者举报，反映某公司通过视频账号宣传其销售的"深海多烯鱼油"能治疗多种疾病 [1] - 该公司直播间拥有88万粉丝，直播展板上显著标注"适合头晕头痛、手麻脚麻、记忆下降人群"等医疗用语 [1] 产品与宣传事实 - 经调查，该公司销售的深海多烯鱼油产品实际执行标准为糖果，属于普通食品，不具备疾病治疗功能 [1] - 视频中出现的中央广播电视总台主持人李梓萌形象，经鉴定完全为利用AI技术伪造生成 [1] 监管与行业影响 - 此案为监管部门查处的利用AI技术进行虚假宣传的首个案例 [1] - 案件显示新型技术被应用于食品广告的违规医疗宣传中 [1]