AI生成内容在儿童娱乐领域的滥用现状 - 部分在青少年中流行的AI动画产品角色形象怪异、音效阴森、内容低俗，甚至含有色情、恐怖等元素，引发家长担忧 [1] - 这些“变味”的AI动画常以“AI山海经”或“魔改”经典动画（如《小马宝莉》、《天线宝宝》）的形式出现，内容荒诞且可能包含暴力情节（如天线宝宝被起重机压扁）[3] - 此类视频常被标注“儿童动画”标签，并可通过青少年模式或平台算法推荐接触到，一旦观看就会被频繁推送，令家长防不胜防 [3] AI不良内容的生产与传播机制 - 在多个AI内容生成平台，用户仅需上传形象和输入文字指令即可快速生成动态视频，电商平台也存在提供动画定制服务的商家 [5] - 社交媒体上存在AI生成大尺度图片的教学帖，其中动画是AI视频不良内容的“重灾区” [5] - AI技术大幅降低了视频制作成本和门槛，使得一些投机型创作者将制作节奏快、刺激性强的AI动画当作“流量密码”来博取眼球 [5] - 例如，某条“奥特曼开着推土机疯狂碾压路面汽车”的AI动画在短视频平台点赞量达到2.6万次 [5] 不良AI内容的商业模式与衍生品 - 创作此类内容可通过平台流量分成、售卖盲盒、卡牌等周边产品，或将用户引流至私域等方式获利 [5] - 以“AI山海经”为例，其衍生品如手办、玩偶、临摹绘本等已在电商平台销售 [5] 平台监管面临的挑战 - 平台通常采用“人工+机器”方式审核AI生成内容，部分平台使用数字技术工具进行批量审核，并设有专门人工团队处理投诉和首页推荐内容 [6][7] - 批量生成的AI动画视频给监管体系带来挑战，现有审核机制对隐蔽性强、法律定性模糊的内容存在局限，难以快速准确判定其是否违法不良 [7] - AI生成内容与普通内容混杂，增加了识别难度，导致人工审核成本大幅上升 [7] 行业监管与治理方向 - 2024年发布的《生成式人工智能服务安全基本要求》对适用未成年人的生成式AI服务内容作出了明确规定 [8] - 2025年4月，中央网信办开展“清朗·整治AI技术滥用”专项行动，重点整治利用AI生成色情、血腥暴力、恐怖诡谲画面等内容 [8] - 专家建议加强AI生成视频产业链监管，压实平台主体责任，平台应重点审核面向未成年人的AI合成推送信息，并优化其算法推荐服务 [9] - 建议在AI生成工具上强制嵌入不可篡改的数字水印，以实现内容的精准溯源 [9] - 应加大优质儿童文化产品的供给，通过足够多且有趣的“正”内容来挤压不良内容的生存空间 [9]