网信部门整治AI生成内容违规行为 - 近期网络账号发布AI生成合成信息时未添加AI标识 利用虚假不实内容欺骗误导公众并破坏网络生态[1] - 网信部门督促网站平台深入排查整治 依法依约处置账号13421个 清理违法违规信息54.3万余条[1] 违规行为主要类型与案例 - 部分账号发布虚构感人故事或猎奇事件视频未添加AI标识以恶意博取流量 例如微博账号“澄馫”、快手账号“玲子爱狗狗”等发布狗在高铁站救下婴儿等虚假视频[1] - 部分账号通过AI换脸、声音克隆假冒公众人物发布不实言论或售卖未经授权的“送祝福”视频以不当牟利 例如微信账号“浮萍9419”、微博账号“乘风已归来”等[1] - 部分账号发布AI生成的虚假火灾现场图片视频 恶意编造炒作火灾事故以混淆视听扰乱公共秩序 例如抖音账号“巷子里的鱼”、快手账号“朵姐正能量”等[2] - 部分账号借AI魔改未成年人喜爱的动画角色 制作传播低俗惊悚血腥暴力内容侵扰未成年人身心健康 例如哔哩哔哩账号“真难我知道”、抖音账号“小奥特曼大智慧”等[2] - 部分账号及电商店铺分享或售卖去除AI标识的教程软件及服务 例如小红书账号“浪淘达人”、淘宝店铺“浙江智意AI”等 相关违规商品已下架[2] 监管趋势与行业呼吁 - 网信部门将对无AI标识的虚假不实信息保持高压严管态势 执行发现即处置以严厉打击违规行为[2] - 网信部门呼吁广大网络内容创作者按规定主动添加AI标识 避免误导公众并共同营造风清气正的网络环境[2]