AI违规应用
搜索文档
抖音公告:永久封禁
第一财经· 2025-12-25 11:24
平台治理行动与成果 - 公司高度重视未成年人保护工作 对危害未成年人身心健康的不良内容持零容忍态度 并持续从严治理相关违规内容和账号[1] - 今年以来 平台持续深化治理举措 全面清理不良信息 围绕"利用未成年人形象不当牟利"和"涉未成年人色情低俗"等问题多次发布治理公告[1] - 近一个月 平台共清理相关违规内容20.2万条 对超过8000个账号处以清理违规增长粉丝、限制商业变现功能、禁言、封禁等不同梯度的处罚[1] 新型违规手段与治理 - 平台发现部分用户利用AI技术升级违规手段侵害未成年人合法权益 具体表现为AI生成未成年人低俗擦边形象"养号涨粉"、AI生成虚假的未成年人"卖惨"内容博取同情不当牟利、以及AI恶意魔改经典形象炮制含有不良元素的"儿童邪典"内容[1] - 近一个月 平台对610个利用AI技术发布涉未成年人不良内容的违规账号进行了全面禁言[1] 典型违规案例及处置 - 针对AI生成未成年人低俗擦边内容 例如"雪*象""群**"等账号发布由AI生成的穿着暴露且刻意突出敏感部位的幼态化形象 平台已下架内容并对39个恶意违规账号无限期禁言[2] - 针对AI生成未成年人卖惨内容 例如"1*2""7*9"等账号批量发布利用AI生成的"早产婴儿住院"等内容刻意营造悲惨处境并诱导互动 平台已下架内容并对180个账号处以清理违规粉丝、限制商业变现及禁言处罚[3] - 针对AI炮制暴力"邪典动画" 例如"2*8""1*g"等账号用动画人物形象制作AI视频演绎残害肢体等血腥暴力画面 平台已下架内容并对391个账号处以禁言处罚[4] 行业协同与未来措施 - 保护未成年人健康成长需要家庭、学校、行业等社会各界广泛参与和协同努力[4] - 公司将持续强化技术手段 提升审核能力 持续加强对涉未成年人不良内容的全方位治理 与社会各界共同筑牢未成年人网络安全防线[4] - 公司鼓励广大网友通过官方服务热线或举报邮箱举报违规内容 并将及时跟进处理[4]