AI技术滥用与虚假内容治理 - 韩国顶流明星IU（李智恩）的AI合成视频中虚假宣传含何首乌的洗发水，热播剧《爱你》男主张凌赫的AI合成视频虚假推荐茯苓膏产品 [1][2] - 短视频平台出现大量标签为"医生讲解""专家建议"的AI生成内容，涉及"癌症预防""孩子长高秘诀"等健康话题 [2] - AI技术专家指出这些视频通过面部提取建模和声音合成进行"深度伪造"，部分内容半真半假掺杂真实科普信息以增强可信度 [3] AI虚假内容的商业链条与危害 - 虚假视频背后存在引流、带货和非法推广保健品的商业链条，通过"名医讲解"积累流量后引导用户跳转第三方平台变现 [4] - 部分视频直接捆绑商品，利用AI合成的"专家"口吻推荐所谓"包治百病"的偏方和产品 [4] - 专家认为这种行为构成"信息污染"，虚假医学建议可能直接影响用户健康判断 [4] 平台治理与监管现状 - 小红书清理265条违规内容，对13个违规账号实施禁言，重点整治AI批量生产虚假内容涨粉、引流带货等行为 [6][7] - 部分短视频平台尝试引入AI内容标识机制，对上传视频进行溯源与分类管理 [8] - 国家网信办等四部门3月发布《人工智能生成合成内容标识办法》，要求对AI生成内容进行显式和隐式标识 [5] 行业挑战与建议 - 平台对AI伪造内容的识别和处置存在滞后，部分高超合成技术视频未能及时下架 [5] - 业内人士建议社交媒体平台设置AI专区进行规范管理，公众应提高媒介素养并从官方渠道获取信息 [8] - 律师指出制造不实信息的发布者可能因侵犯名誉权、虚假宣传等被追究法律责任 [5]