行业概况 - AI陪伴产品利用人工智能技术模拟人类互动，为用户提供情感支持、日常陪伴或功能性服务，近年来进入公众视野 [1] - 全球范围内，AI陪伴产品凭借个性化交互体验和随时在线特性赢得用户青睐，尤其吸引快节奏生活中感到孤独的人群及渴望交流的青少年 [1] 行业风险事件 - 知名AI陪伴产品"筑梦岛"App因生成低俗擦边内容危害未成年人身心健康，被上海市网信办约谈并要求立即整改 [1] - 2024年美国佛罗里达州一名14岁男孩因长期沉迷AI陪伴应用中的虚拟角色而自杀，涉事公司被起诉且法院驳回撤销案件请求 [1][2] 未成年人保护问题 - 未成年人缺乏判断力和自控力，易受AI陪伴产品中不良信息影响，低俗内容可能扭曲价值观甚至引发悲剧 [2] - 中央网信办将未成年人AI问答服务安全风险列入专项治理行动，上海市网信办依据《未成年人网络保护条例》等法规约谈违规企业 [3] 监管与合规要求 - 行业需在技术创新中兼顾内容合规与社会责任，企业应承担主体责任，面向未成年人的产品需在代码底层嵌入安全机制 [2] - 未来需完善法律法规明确AI陪伴产品内容标准，加强日常监督检查并建立常态化监管机制 [3]