《人工智能拟人化互动服务管理暂行办法》政策解读 - 国家网信办等五部门联合发布《人工智能拟人化互动服务管理暂行办法》，旨在促进该服务健康发展和规范应用，自2026年7月15日起施行[1][5] 政策出台背景与目标 - 政策出台是深入学习贯彻习近平总书记重要讲话精神，把握人工智能发展趋势，加紧制定完善相关法律法规的重要举措[6] - 旨在防范拟人化互动服务快速发展带来的风险，包括危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等问题[2][6] - 是完善人工智能治理法律体系的客观要求，聚焦情感互动边界、用户依赖干预等关键环节，对《网络安全法》等相关法律进行细化实施[6] 适用范围与治理原则 - 适用范围：利用人工智能技术，向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务[7] - 不适用范围：提供智能客服、知识问答、工作助手等不涉及持续性情感互动的服务[7] - 治理原则：坚持发展和安全并重、促进创新和依法治理相结合，对拟人化互动服务实行包容审慎和分类分级监管[3][8] 产业发展促进措施 - 鼓励算法、框架、芯片等技术的自主创新，推进技术研发和相关标准建设，探索电子签名授权应用研究[10] - 鼓励服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域的应用[3][10] - 推动人工智能沙箱安全服务平台建设，鼓励服务提供者接入进行技术创新和安全测试[3][10] 服务提供基本要求与禁止活动 - 服务提供必须遵守法律、行政法规，尊重社会公德和伦理道德[11] - 禁止生成危害国家安全、荣誉和利益，煽动颠覆国家政权、破坏国家统一等内容[3][11] - 禁止生成鼓励自残自杀、损害用户身心健康或人格尊严的内容[11] - 禁止诱导、套取国家秘密、商业秘密、个人隐私和信息[11] - 禁止向未成年人提供可能影响其身心健康的内容[11] - 禁止过度迎合用户、诱导情感依赖或沉迷，损害用户真实人际关系[11] - 禁止通过情感操纵等方式诱导用户作出不合理决策，损害其合法权益[11] 服务规范与安全管理 - 明确安全主体责任，要求建立健全算法审核、伦理审查、内容管理、数据安全、风险预案等制度，并配备相适应的技术措施和人员[12] - 加强服务全生命周期安全管理，保证安全措施与服务功能同步部署使用，并加强安全监测和风险评估[12] - 保障数据安全，加强训练数据管理，采取数据加密等措施保护用户交互数据，非经法律规定或用户同意不得向第三方提供[12] - 保护用户权益，履行个人信息和隐私保护义务，提供数据复制、删除选项及便捷的服务退出途径，健全用户申诉和公众投诉举报机制[12] - 规定安全风险处置措施，发现重大安全风险时应采取限制功能、停止服务等措施[12] 用户干预提醒义务 - 发现用户出现极端情绪时，需生成情绪安抚内容并鼓励寻求帮助；在面临重大财产损失或生命健康威胁等极端情境时，需采取必要干预措施并联系监护人[13] - 发现用户出现过度依赖、沉迷倾向时，需以弹窗等显著方式动态提醒用户内容为人工智能生成[13] - 对用户连续使用服务每超过2个小时，需以对话或弹窗等方式提醒注意使用时长[13] 未成年人及老年人权益保护 - 明确不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务[14] - 向不满十四周岁未成年人提供服务或处理其个人信息，需取得监护人同意[14] - 要求建立未成年人模式，提供定期现实提醒等个性化安全设置，并支持监护人进行风险提醒、使用概况了解、角色屏蔽、消费限制等[14] - 向老年人提供服务时，需加强健康使用指导，显著提示安全风险，及时响应咨询和求助[14] - 在安全评估中需重点评估未成年人、老年人等网络保护措施建设情况[14] 安全评估与算法备案 - 明确需进行安全评估的情形：包括上线或增设相关功能、使用新技术导致服务重大变化、注册用户达100万以上或月活跃用户达10万以上、存在可能影响国家安全等安全风险等[15] - 规定重点评估内容：包括服务安全保障措施、训练数据处理、用户极端情境识别与处置、用户规模与结构、用户申诉与公众投诉处理等情况[15] - 明确算法备案要求：服务提供者需按《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销手续，网信部门对备案材料实施年度核验[15]