Workflow
短视频内容服务
icon
搜索文档
批量AI“小海”卖惨带货,抖音通报:经平台核查,相关人物系AI合成数字人,相关账号及内容已被依规处置
第一财经· 2026-10-23 20:41
文章核心观点 - 抖音开展“清朗·整治短视频虚假人设乱象”专项行动(二),重点整治五类违规行为:假扮弱势群体骗取关注、虚构职业资质发布专业内容、利用AI仿冒人物虚假营销、鼓吹奢靡迷信引流牟利、编造冲突剧情博取流量 [1] - 平台在10月1日至10月22日期间累计处置违规账号2万余个,清理违规视频4.7万余条 [2] - 平台持续治理虚假人设类违法违规内容,畅通用户举报渠道,呼吁网友对博眼球、蹭流量、谋私利为目的的虚假人设内容保持警惕 [3] 专项行动整治重点 - 假扮弱势群体骗取关注 [1] - 虚构职业资质发布专业内容 [1] - 利用AI仿冒人物虚假营销 [1] - 鼓吹奢靡迷信引流牟利 [1] - 编造冲突剧情博取流量 [1] 平台处置数据 - 10月1日至10月22日期间,平台累计处置违规账号2万余个 [2] - 同期清理违规视频4.7万余条 [2] 典型违规案例 - 账号“桂*”虚构“朋友在电机事故中离世”的社会事件吸引流量,经核查信息属编造,账号及内容已被依规处置 [3] - 账号“宇*”发布摆拍救助流浪汉视频博取关注,经核查视频中当事人系被雇佣出镜,并非真实流浪汉,账号及内容已被依规处置 [3] - 有矩阵账号利用“小海”AI形象进行卖惨带货,经核查相关人物系AI合成数字人,账号及内容已被依规处置 [3] - 账号“爷*”发布摆拍“爷爷生病仍独自抚养孙女”视频进行卖惨博同情,经核查相关信息系编造,账号及内容已被依规处置 [3] AI虚假人设“小海”现象 - 一批名叫“小海”的苦命男孩在短视频平台批量涌现,对着镜头哭诉单亲、窘迫身世,诱导中老年人下单买货,甚至有七旬老人独自坐火车前去探望 [4] - 账号“@海海会努力”9月18日发布视频,画面中“小海”在教室吃馒头、声称给“姨姨妈妈”买了肉包,该内容疑似使用了AI生成技术 [6] - 今年五月乌鲁木齐铁路公安乘警发现一位79岁老人独自乘车远行,老人不识字、说不清目的地,只知要去山西运城“走亲戚”看望天天在手机里喊她“姨妈”的苦命孩子,经乘警劝说和联系,老人最终下车坐返程票回家 [7] - 据央视新闻,这些让老人们牵肠挂肚的“贴心晚辈”实际上根本不存在,全是由AI合成的“数字人” [9] - 这些AI生成的十几岁男孩形象无一例外都在上演“懂事、窘迫、心疼长辈”的苦情剧本,视频中“小海”眼含热泪展示手里馒头并表达对“姨姨妈妈”的思念 [11] - 在另一段带货视频里,“小海”摇身一变成为最懂老人心的“贴心晚辈”,开始推荐阿胶 [13] - 为唤醒沉迷“AI小海”的长辈,一群年轻网友开始用AI造“恶小海”,有人让小海穿着囚服、抓着铁栏“道歉”,有人让他抽烟、喝酒、大把数钱,炫耀从“姨姨妈妈”那里赚了多少钱 [15]