答疑

搜索文档
网信办:重点关注涉未成年人AI不当应用!南都曾曝光乱象
南方都市报· 2025-07-15 21:14
专项行动部署 - 中央网信办部署为期2个月的"清朗·2025年暑期未成年人网络环境整治"专项行动 [2] - 专项行动将严肃查处涉暴力迷信、淫秽色情、引诱自杀自残、侵害未成年人隐私等违法信息 [2] - 全面清理低俗庸俗、炫富拜金、极端情绪等不良内容 [2] - 重点关注四方面问题:实施网络侵害行为、隐蔽传播违法不良信息、诱导参与线下危险活动、利用未成年人形象牟利 [2] AI功能不当应用风险 - 网信部门重点关注"AI功能在未成年人领域不当应用以及诱导沉迷问题" [2] - AI生图APP可快速生成儿童不雅形象图片 部分突破伦理底线 [3] - AI陪聊应用存在极端人设与软色情内容 青少年模式与正常模式差异较小 [3] - 大模型应用和学习类APP的AI解题功能存在错误、幻觉现象 答案易受质疑影响 [3] 专家建议与行业规范 - 专家强调生成式AI应用需设置"未成年人模式" 防范错误偏见、隐私泄露、沉迷等问题 [4] - 建议未成年人模式需实现便捷使用、分龄原则、身份识别、内容过滤、正向引导等功能 [4] 平台监管与内容安全 - 网信部门将重点关注未成年人模式使用情况、内容建设问题及儿童智能设备安全规范 [5] - 专项行动要求压实网站平台主体责任 加大巡查力度 从严处置违规平台与账号 [5] - 呼吁社会各界共同抵制涉未成年人乱象 营造安全健康网络环境 [5]