行业现状与问题 - AI技术已广泛运用于影视领域，但部分在青少年中流行的AI动画产品存在角色形象怪异、音效阴森、内容低俗，甚至含有色情、恐怖等元素的问题[1] - 调查发现，AI动画是AI视频不良内容的“重灾区”，社交媒体上存在AI生成大尺度图片的教学帖，电商平台有提供动画定制服务的商家[7] - 部分不良AI动画标注“儿童动画”标签，可在青少年模式中观看，且一旦观看，大数据算法会经常性推送同类视频，令家长防不胜防[3] 具体案例与表现形式 - “AI山海经”视频在青少年中爆火，内容形象怪异、背景阴森，缺乏情节逻辑，但深受孩子喜爱并讨论，甚至被误当作真正的《山海经》故事[3] - 存在AI“魔改”经典动画的现象，例如《小马宝莉》角色出现流泪拉车、被鞭打的情节，《天线宝宝》出现被起重机压扁的情节[3] - 此前社交网络和短视频平台曾出现对《红楼梦》《西游记》《三国演义》等经典著作的荒诞AI改编视频，如“林黛玉倒拔垂杨柳”、“唐僧手持加特林”[4] 市场影响与商业模式 - AI技术大幅降低了制作视频的成本和门槛，但也让更多粗制滥造、导向不良的视频产品进入用户视野[7] - 部分投机型创作者利用青少年好奇心，将制作节奏快、刺激性强的AI动画当作“流量密码”来博取眼球[7] - 内容荒诞或含有暴力、软色情内容的AI动画流量可观，例如某条“奥特曼开着推土机疯狂碾压路面汽车”的动画点赞量达到2.6万次[7] - 创作此类内容可通过平台流量分成、售卖盲盒、卡牌等周边产品，或将用户引流至私域等方式获利，例如“AI山海经”已有手办、玩偶、临摹绘本等衍生品在电商平台销售[7] 监管挑战与技术应对 - 现有平台对AI生成图片、视频通常采取“人工+机器”的审核方式，部分平台使用数字技术工具进行批量审核，并设置专门人工团队审核显著位置内容[8] - 批量生成的AI动画视频给平台监管体系带来挑战，现有审核机制对隐蔽性强、法律定性模糊的网络内容存在局限，难以快速准确判定其是否违法不良[8] - AI生成视频常与普通内容混杂，增加了识别难度，导致人工审核成本大幅上升[8] - 专家建议在AI生成工具上强制嵌入不可篡改的数字水印，以实现内容的精准溯源[6] 行业建议与治理方向 - 2024年发布的《生成式人工智能服务安全基本要求》对生成式AI服务适用未成年人的内容作出了明确规定[5] - 2025年4月，中央网信办开展了“清朗·整治AI技术滥用”专项行动，重点整治利用AI生成合成色情内容、制作发布血腥暴力场景、恐怖诡谲画面等行为[5] - 专家建议进一步加强AI生成视频产业链的监管力度，压实平台主体责任[6] - 网络平台应重点审核面向未成年人群体的AI合成推送信息，设置专门团队优化未成年人用户算法推荐服务，增加优质网络信息内容的推送权重[6] - 应加大优质儿童文化产品的供给，以正面内容挤压不良内容的生存空间[6]