Workflow
AI违规应用治理
icon
搜索文档
抖音公告:永久封禁
第一财经· 2025-12-25 11:18
平台治理行动概述 - 公司发布关于持续治理涉未成年人不良内容的公告 强调对危害未成年人身心健康的内容零容忍并持续从严治理[1] - 近一个月内 平台共清理相关违规内容20.2万条 并对超过8000个账号处以不同梯度的处罚 包括清理违规增长粉丝、限制商业变现功能、禁言、封禁等[1] - 公司严禁用户以任何形式发布涉未成年人不良内容 并持续强化技术手段和审核能力 以加强对相关内容的全方位治理[1][4] 利用AI技术的新型违规手段 - 平台发现部分用户利用AI技术升级违规手段 具体表现为生成未成年人低俗擦边形象以“养号涨粉”[1] - 利用AI生成虚假的未成年人“卖惨”内容以博取同情并不当牟利[1] - 利用AI恶意魔改经典动画、动漫和文学形象 炮制含有血腥、暴力、低俗等不良元素的“儿童邪典”内容[1] - 近一个月 平台已对610个利用AI技术违规的账号进行全面禁言[1] 典型违规案例与处置 - **案例一:AI生成低俗擦边内容** 有账号发布由AI生成的穿着暴露且刻意突出敏感部位的幼态化形象 平台已下架内容并对“雪*象”“群**”等39个恶意违规账号无限期禁言[2] - **案例二:AI生成卖惨内容** 有账号批量发布利用AI生成的“早产婴儿住院”“寒冬中未成年人背负柴火哭泣”等内容 刻意营造悲惨处境并诱导互动吸粉 平台已下架内容并对“1*2”“7*9”等180个账号处以清理违规粉丝、限制商业变现及禁言处罚[3] - **案例三:AI炮制暴力“邪典动画”** 有账号打着“儿童动画”标签 用AI视频演绎残害肢体等血腥暴力、低俗恐怖画面 平台已下架内容并对“2*8”“1*g”等391个账号处以禁言处罚[4]