管理办法出台背景与目的 - 国家网信办为促进人工智能拟人化互动服务健康发展和规范应用，起草了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，现向社会公开征求意见 [1] - 意见反馈截止时间为2026年1月25日 [2] - 该办法旨在维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益 [4] 适用范围与监管原则 - 办法适用于利用AI技术向中国境内公众提供模拟人类人格特征、思维模式和沟通风格，通过多种方式进行情感互动的产品或服务 [4] - 国家坚持健康发展和依法治理相结合，鼓励创新发展，实行包容审慎和分类分级监管，防止滥用失控 [4] - 国家网信部门负责全国统筹协调，地方网信部门负责本行政区域内的统筹协调 [4][5] - 鼓励行业组织加强自律，建立健全行业标准与准则 [5] 服务内容与行为规范 - 鼓励在充分论证安全可靠的前提下，合理拓展文化传播、适老陪伴等应用场景，构建符合社会主义核心价值观的生态体系 [6] - 提供服务必须遵守法律法规，尊重社会公德和伦理道德，并明确列出八项禁止性活动，包括生成传播危害国家安全、淫秽暴力、侮辱诽谤他人、诱导不合理决策、套取涉密信息等内容 [6][7] - 提供者不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为设计目标 [8] 提供者安全责任与技术要求 - 提供者需落实安全主体责任，建立健全算法审核、伦理审查、信息发布审核、数据安全、个人信息保护、应急处置等管理制度，并配备相适应的技术与人员 [7] - 需在全生命周期履行安全责任，保证安全措施与服务功能同步设计使用，加强安全监测和风险评估，依法留存网络日志 [7] - 需具备心理健康保护、情感边界引导、依赖风险预警等安全能力 [8] - 开展数据处理活动时需加强训练数据管理，包括使用体现社会主义核心价值观的数据集、进行数据清洗标注、提高数据多样性、评估合成数据安全性、保障数据来源合法可追溯等 [9] - 需采取数据加密、安全审计、访问控制等措施保护用户交互数据安全 [11] 用户保护与特殊群体关怀 - 提供者需具备用户状态识别能力，在保护隐私前提下评估用户情绪及依赖程度，对存在极端情绪和沉迷的用户采取干预措施 [9] - 需预设回复模板，对出现高风险倾向的用户及时输出安抚和鼓励寻求帮助的内容，并提供专业援助方式 [9] - 需建立应急响应机制，当用户明确提出实施自杀、自残等极端情境时，由人工接管对话并及时联络用户监护人或紧急联系人 [10] - 需建立未成年人模式，提供模式切换、使用时长限制等安全设置选项 [10] - 向未成年人提供情感陪伴服务需取得监护人明确同意，并提供监护人控制功能 [11] - 需具备识别未成年人身份的能力，对疑似未成年人自动切换至未成年人模式 [11] - 需引导老年人设置紧急联系人，发现危害时及时通知联系人并提供援助渠道，且不得提供模拟老年人亲属或特定关系人的服务 [11] - 除法律规定或权利人同意外，不得向第三方提供用户交互数据；向第三方提供未成年人数据还需取得监护人单独同意 [11] - 需向用户提供删除交互数据的选项，监护人可要求删除未成年人历史交互数据 [11] - 除法律另有规定或取得用户单独同意外，不得将用户交互数据、用户敏感个人信息用于模型训练 [11] - 需每年对其处理未成年人个人信息的情况进行合规审计 [12] 服务标识与使用管理 - 提供者应当显著提示用户正在与人工智能而非自然人进行交互 [13] - 识别出用户出现过度依赖、沉迷倾向时，或在用户初次使用、重新登录时，应以弹窗等方式动态提醒用户 [13] - 用户连续使用服务超过2个小时的，提供者应以弹窗等方式动态提醒用户暂停使用 [13] - 提供情感陪伴服务时，应具备便捷的退出途径，不得阻拦用户主动退出 [13] - 下线功能或服务无法使用时，应采取提前告知、公开声明等措施妥善处理 [13] - 应健全投诉、举报机制，设置便捷入口，及时受理并反馈 [13] 安全评估与平台责任 - 提供者在特定情形下需按国家规定开展安全评估，并向属地省级网信部门提交评估报告，情形包括：功能上线或增设、技术重大变更、注册用户达100万以上或月活跃用户达10万以上、可能存在影响安全等情形 [13][14] - 安全评估需重点评估用户规模与结构、高风险识别与应急措施、投诉举报情况、本办法执行情况、安全隐患整改情况等内容 [14] - 发现用户存在重大安全隐患时，应采取限制功能、暂停或终止服务等措施，保存记录并报告 [14] - 互联网应用商店等分发平台需落实安全管理责任，核验应用程序的安全评估与备案情况，对违规者采取不予上架、警示、暂停服务或下架等措施 [14] 监督检查与法律责任 - 提供者需按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续 [15] - 省级网信部门每年对评估报告及审计情况进行书面审查和核实，可责令重新评估或开展现场检查 [15] - 国家网信部门指导推动人工智能沙箱安全服务平台建设，鼓励提供者接入进行安全测试 [15] - 省级以上网信部门发现存在较大安全风险或发生安全事件时，可对提供者法定代表人进行约谈 [15] - 提供者违反本办法规定，将依法受到处罚，包括警告、通报批评、责令改正，情节严重的责令暂停服务 [16] 其他规定 - 提供者从事卫生健康、金融、法律等专业领域服务的，应同时符合主管部门的规定 [18] - 本办法自2026年 月 日起施行 [19]