小红书:累计清理处置“AI魔改”视频违规内容487条
新浪财经·2026-01-08 23:54
行业背景与问题 - 随着人工智能技术飞速发展与广泛应用,互联网上涌现大量由AI生成的视听内容 [1] - 通过AI对经典影视作品、历史题材影像进行解构与颠覆性改编的现象蔓延,其内容存在过度虚构、篡改或扭曲历史情节与人物形象的问题 [1] - 此类内容会对大众认知造成冲击,侵蚀传统文化,并长期干扰未成年人形成正确文化认知和现实感知,损害青少年健康成长 [1] 公司治理行动与措施 - 公司积极响应主管部门相关管理要求,开展专项清理与治理工作,以扭转“AI魔改”视频蔓延的不良态势,为青少年健康成长营造良好网络空间 [1] - 治理重点针对通过“AI魔改”四大名著、历史及革命英烈题材等影视作品,或利用知名动画形象制作的各类视频 [1] - 集中清理严重歪曲原作、渲染暴力低俗、篡改中华文化、扭曲历史认知及违背公序良俗等有害内容 [1] 治理成果与案例 - 自专项整治行动开展以来,平台累计清理处置“AI魔改”视频违规内容487条,处置违规账号21个 [1] - 典型案例1:用户“给哥”因高频发布AI魔改四大名著相关内容,账号被禁言处置 [1] - 典型案例2:用户“喵胖”因高频发布魔改海绵宝宝不良价值观视频,账号被禁言处置 [2] - 典型案例3:用户“卡画”因高频发布AI魔改皮卡丘不良价值导向内容,账号被禁言处置 [3] - 典型案例4:用户“大者”因高频发布AI魔改美国山海经相关内容,账号被禁言处置 [4] 公司核心工作与社区呼吁 - 公司始终将筑牢网络安全防线、守护良好信息生态作为核心工作之一 [4] - 公司呼吁广大用户自觉遵守社区公约,积极举报违规线索,共同建设积极健康的网络内容秩序 [4]