案件概述 - 北京市场监管部门查处首例利用AI技术进行虚假广告宣传的案件，涉事公司在其直播中宣称其普通食品具备疾病治疗功能[1] - 直播中出现了利用AI技术伪造生成的知名央视主持人形象，营造“权威背书”假象[1] AI技术滥用风险 - AI技术日益成熟，“AI换脸”技术门槛大幅降低，仅凭一张图片或一段声音即可生成高度逼真伪造视频[1] - 不法商家利用AI深度伪造科学家、医生、运动员、演员等知名人士面容和声音进行虚假宣传[1] - 此类行为侵犯被仿冒者权益，对公众实施欺诈，并蚕食社会信任基础[1] 监管应对与行业责任 - 我国《人工智能生成内容标识办法》于今年9月正式施行，要求AI生成内容必须添加显式标识并鼓励添加数字水印[1] - 内容传播平台、AI生成服务平台和应用程序分发平台需优化AI识别技术，加强鉴伪追溯能力，落实责任义务[2] - 监管部门应加大执法力度，对违规平台和个人依法查处，形成震慑[1]