行业现状与问题 - AI动画内容在青少年中流行，但部分产品角色形象怪异、音效阴森、内容低俗，甚至含有色情、恐怖等元素，引发家长担忧 [1] - 一些AI动画标注“儿童动画”标签，在青少年模式中也可看到，且一旦观看会被算法经常性推送同类视频，令人防不胜防 [1] - 许多AI动画视频以孩子熟知的经典动画形象为主角，如《小马宝莉》、《天线宝宝》，但内容被“魔改”，出现流泪拉车、被鞭子抽打、被起重机压扁等怪异或暴力情节 [1] - 除了“AI山海经”，社交网络和短视频平台还曾出现《红楼梦》、《西游记》、《三国演义》等经典著作改编的AI视频，内容荒诞，如“林黛玉倒拔垂杨柳”、“唐僧手持加特林” [2] - 社交媒体上存在有关AI生成大尺度图片的教学帖、经验帖，其中动画是AI视频不良内容的“重灾区” [2] - 在某短视频平台上，不少内容荒诞或含有暴力、软色情内容的AI动画流量可观，例如一条“奥特曼开着推土机疯狂碾压路面汽车”的动画点赞量达到2.6万次 [3] 内容生产与商业模式 - 在多个AI内容生成平台，用户只需上传简单人物形象、输入文字指令，即可快速生成动态视频，电商平台也存在专门提供动画定制服务的商家 [2] - AI技术使得制作视频的成本和门槛大幅降低，客观上也让更多粗制滥造甚至导向不良的视频产品进入用户视野 [2] - 一些投机型创作者利用青少年好奇心强的特点，将制作节奏快、刺激性强的AI动画当作“流量密码”，不择手段“博眼球” [2] - 创作这类内容有多种变现途径，除了平台流量分成外，还可以通过售卖盲盒、卡牌等周边产品，或将用户引流至私域等方式获利 [3] - 以“AI山海经”为例，已有手办、玩偶、临摹绘本等衍生品在电商平台销售 [3] 监管挑战与应对 - 对于AI生成的图片、视频，平台通常采取“人工+机器”的方式进行审核，部分平台会采用数字技术工具对图片视频内容进行批量审核，有的平台还会设置专门的人工审核团队 [3] - 这类批量生成的AI动画视频，给平台的监管体系带来挑战，现有审核机制在应对隐蔽性强、法律定性模糊的网络内容时存在局限，平台往往难以在短时间内准确判定其是否属于违法不良信息 [3] - AI生成的视频、图像常与普通内容混杂，进一步增加了识别难度，导致人工审核成本大幅上升 [3] - 2024年发布的《生成式人工智能服务安全基本要求》，对生成式人工智能服务适用未成年人的有关内容作出明确规定 [5] - 2025年4月，中央网信办开展“清朗·整治AI技术滥用”专项行动，重点整治内容包括利用AI脱衣、AI绘图等功能生成合成色情内容，制作发布血腥暴力场景，人体扭曲变形、超现实怪物等恐怖诡谲画面等 [5] - 专家建议进一步加强AI生成视频产业链的监管力度，压实平台主体责任 [5] - 网络平台应重点审核面向未成年人群体的AI合成推送信息，设置专门团队优化未成年人用户算法推荐服务，增加优质网络信息内容的推送权重 [5] - 在源头治理方面，建议在AI生成工具上强制嵌入不可篡改的数字水印，从而实现内容的精准溯源 [5] 社会影响与建议 - 当深受孩子信任的经典动画角色做出不当行为，不仅会给孩子带来认知上的困惑，还可能诱导孩子去模仿 [2] - 对经典作品的歪曲恶搞，可能对正处于三观塑造阶段的青少年带来负面影响 [2] - 低龄儿童对信息真伪的判断力较弱，面对AI等新技术带来的网络信息洪流，家长应积极承担监护人职责，成为孩子观看内容的最后一道“把关人” [5] - 学校和家庭应加强未成年人的生命教育等，让孩子培养正确的价值观，抵御不良网络内容的侵蚀 [6] - 应加大优质儿童文化产品的供给，当“正”的内容足够多、足够有趣，“邪”的内容自然便没有了生存空间 [6]