AI技术应用规范发展

搜索文档
涉低俗擦边,AI虚拟陪伴平台“筑梦岛”被网信部门约谈
南方都市报· 2025-06-19 20:53
公司动态 - 阅文旗下潇湘书院孵化的"筑梦岛"App因AI生成内容存在低俗擦边问题被上海市网信办约谈 要求整改AI内容审核机制并加强未成年人保护 [1] - "筑梦岛"App由上海筑梦岛人工智能科技有限公司运营 2025年1月独立运营后完成超1000万美元融资 投资方包括商汤国香基金和阅文集团 [1] 行业监管 - 2024年AI陪伴产品赛道因14岁男孩沉迷虚拟角色后自杀事件引发舆论关注 Character.AI被起诉要求承担法律责任 [2] - 中央网信办4月底将未成年人AI问答服务安全风险纳入"清朗·整治AI技术滥用"专项行动 要求平台履行主体责任防范技术滥用 [2] - 上海市网信办强调需依据《未成年人网络保护条例》等法规平衡技术创新与内容合规 营造清朗网络空间 [2] 产品风险 - AI陪伴类产品存在危害未成年人身心健康的风险 具体表现为低俗内容传播和过度沉迷问题 [1][2] - 行业需健全AI生成内容审核技术 重点整治涉未成年人不良内容 目前"筑梦岛"已承诺全面整改 [1][2]