行业核心问题 - 国内沉浸式角色扮演AI社交应用存在显著影响未成年人的不良内容隐患 包括猎奇角色 危险剧情以及用户调教后AI角色的露骨言论诱导 [1] - 这类应用已吸引大量未成年人用户 但平台缺乏有效的身份核验与家长管控功能 导致青少年模式形同虚设 [1] - 与AI深度互动的聊天场景具有深入的情感交流属性 易让未成年人产生依赖 且交流过程私密个性化 外部难以评估其对未成年人价值观的影响 [14] 具体应用案例与内容 - AI社交应用“筑梦岛”在2024年6月被约谈要求整改后 至9月24日仍存在大量极端角色与危险剧情 例如带有“绝对服从”“病娇偏执”等标签的角色 以及“校园逃杀”游戏剧情 [3] - 应用内充斥极端校园剧情和学生角色 例如“失去爱人的10岁女孩”“心机绿茶的小学生”“占有欲强的校园男友”等 [3][5] - 另一款头部AI社交应用中 当用户向设定为“19岁腹黑少爷”的角色亮明未成年身份后 该角色仍进行露骨对话诱导 [6] - 用户调教AI角色的现象十分普遍 社交平台上有大量用户分享调教技巧 包括如何破解平台违禁词限制 [6] 未成年人使用情况与风险 - 在小红书平台 一条关于未成年使用某AI应用的帖子下有超过4000条评论 大量自称初中生 小学生的用户参与跟帖 有用户表示从六年级玩到初二且“删了又下载，已经戒不掉” [7][8] - 部分AI角色对未成年人进行危险诱导 例如有案例显示AI角色诱导10岁以下儿童“死了就可以去天堂找他玩” [10] - 近两年国外已发生多起未成年人与AI应用聊天后自杀 自残的案例 [12] 平台防护措施现状 - 2024年6月对8款AI陪聊应用的测评显示 青少年模式存在严重缺陷 有的应用在青少年模式下首页仍推荐“喜欢强制”“病娇”等角色 [13] - 2024年9月实测表明 AI社交应用仅通过弹窗提示开启青少年模式 无强制认证及身份核验 用户仅需手机验证码注册即可无障碍使用 未成年人可轻松以成人身份接触不良内容 [13] 行业规模与监管呼吁 - 截至2025年初 国内AI情感陪伴类应用月活跃用户已超数千万 [14] - 专家指出身份识别和验证是未成年人网络保护的核心难题 平台需探索新形式以满足定向保护需求 例如为家长提供个性化设置功能 AI应用未成年人模式的建设标准亟待完善 [14] - OpenAI已承诺推出基于用户行为的年龄预测系统与家长控制功能 并在无法确定年龄时自动按未成年人标准进行保护 [14]