AI生成内容在儿童娱乐领域的滥用现状 - 部分面向青少年的AI动画产品出现角色形象怪异、音效阴森、内容低俗的问题 甚至含有色情、恐怖等不良元素 引发家长担忧 [2] - 以“AI山海经”为代表的视频内容形象怪异、背景阴森、缺乏情节逻辑 但深受青少年喜爱和讨论 部分儿童甚至将其误认为真实故事 [3] - 视频平台利用算法向儿童推送经过AI“魔改”的经典动画 内容包含暴力、虐待等不当情节 例如小马宝莉被鞭打、天线宝宝被压扁 且此类视频常标注“儿童动画”标签或在青少年模式中出现 形成信息茧房效应 [3] - 除动画外 社交网络和短视频平台也曾出现对《红楼梦》《西游记》等经典著作的荒诞AI改编视频 如“林黛玉倒拔垂杨柳” 可能对青少年价值观塑造产生负面影响 [4] AI不良内容的生产与传播机制 - AI内容生成平台和电商定制服务大幅降低了视频制作成本与门槛 使得大量粗制滥造或导向不良的产品得以进入市场 [5] - 部分投机型创作者将制作节奏快、刺激性强的AI动画视为“流量密码” 利用青少年好奇心“博眼球” [5] - 含有暴力、软色情等不良内容的AI动画流量可观 例如一条“奥特曼开着推土机疯狂碾压路面汽车”的动画点赞量达到2.6万次 [5] - 此类内容已形成商业变现模式 除平台流量分成外 还通过售卖盲盒、卡牌等周边产品或将用户引流至私域获利 例如“AI山海经”已有手办、玩偶、临摹绘本等衍生品在电商平台销售 [5] 平台监管面临的挑战与局限 - 平台通常采用“人工+机器”方式审核AI生成内容 部分平台使用数字技术工具进行批量审核 并设有人工团队处理用户举报及显著位置的内容 [6] - 批量生成的AI动画视频对现有监管体系构成挑战 审核机制在处理隐蔽性强、法律定性模糊的内容时存在局限 平台难以快速准确判定其是否违法 [6] - AI生成视频与普通内容混杂 进一步增加了识别难度 导致人工审核成本大幅上升 [6] 行业治理与内容生态建设方向 - 2024年发布的《生成式人工智能服务安全基本要求》对生成式AI服务适用未成年人的内容作出了明确规定 [7] - 2025年4月 中央网信办开展了“清朗·整治AI技术滥用”专项行动 重点整治利用AI生成色情、血腥暴力、恐怖诡谲画面等内容 [7] - 专家建议加强AI生成视频产业链监管 压实平台主体责任 平台应重点审核面向未成年人的AI合成推送信息 并优化算法推荐服务以增加优质内容权重 [8] - 建议在AI生成工具上强制嵌入不可篡改的数字水印 以实现内容的精准溯源 [8] - 应加大优质儿童文化产品的供给 通过足够多且有趣的“正”内容来挤压不良内容的生存空间 [8]