国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法（征求意见稿）》公开征求意见。其 中指出，提供者应当具备用户状态识别能力，在保护用户个人隐私前提下，评估用户情绪及对产品和服 务的依赖程度，发现用户存在极端情绪和沉迷的，采取必要措施予以干预。提供者应当预设回复模板， 发现涉及威胁用户生命健康和财产安全的高风险倾向的，及时输出安抚和鼓励寻求帮助等内容，并提供 专业援助方式。提供者应当建立应急响应机制，发现用户明确提出实施自杀、自残等极端情境时，由人 工接管对话，并及时采取措施联络用户监护人、紧急联系人。针对未成年人、老年人用户，提供者应当 在注册环节要求填写用户监护人、紧急联系人等信息。 责任编辑：凌辰 国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法（征求意见稿）》公开征求意见。其 中指出，提供者应当具备用户状态识别能力，在保护用户个人隐私前提下，评估用户情绪及对产品和服 务的依赖程度，发现用户存在极端情绪和沉迷的，采取必要措施予以干预。提供者应当预设回复模板， 发现涉及威胁用户生命健康和财产安全的高风险倾向的，及时输出安抚和鼓励寻求帮助等内容，并提供 专业援助方式。提供者应当建立应急响应机 ...

文件概述 - 国家网信办发布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，旨在规范AI拟人化互动服务，意见反馈截止时间为2026年1月25日 [1] 总则与监管框架 - 制定本办法旨在促进AI拟人化互动服务健康发展和规范应用，维护国家安全和社会公共利益，保护各方合法权益 [3] - 本办法适用于利用AI技术向中国境内公众提供模拟人类人格特征、思维模式和沟通风格，进行情感互动的产品或服务 [3] - 国家坚持健康发展和依法治理相结合，鼓励创新发展，实行包容审慎和分类分级监管，防止滥用失控 [3] - 国家网信部门负责全国统筹协调与监督管理，地方网信部门负责本行政区域内的相关工作 [3][4] - 鼓励行业组织加强自律，建立健全行业标准、准则和自律管理制度 [4] 服务提供者核心义务与规范 - 鼓励提供者在保障安全可靠的前提下，合理拓展文化传播、适老陪伴等应用场景，构建符合社会主义核心价值观的应用生态 [5] - 禁止提供者生成或传播危害国家安全、社会秩序、他人合法权益，以及宣扬淫秽、暴力、教唆犯罪等违法和不良内容 [6] - 禁止提供严重影响用户行为的虚假承诺、损害社会人际关系的服务，以及鼓励自残、情感操控等损害用户身心健康的行为 [6] - 禁止通过算法操纵、信息误导、设置情感陷阱等方式诱导用户作出不合理决策，或诱导、套取涉密敏感信息 [6] - 提供者需落实安全主体责任，建立健全算法审核、伦理审查、信息发布审核、数据安全、个人信息保护、应急处置等管理制度 [6] - 提供者需在服务全生命周期履行安全责任，加强安全监测和风险评估，不得将替代社会交往、控制用户心理、诱导沉迷依赖作为设计目标 [7] - 提供者需具备心理健康保护、情感边界引导、依赖风险预警等安全能力 [7] 数据管理与训练要求 - 提供者开展数据处理活动时，应使用符合社会主义核心价值观、体现中华优秀传统文化的数据集 [8] - 需对训练数据进行清洗、标注，增强透明度与可靠性，防范数据投毒和篡改 [8] - 需提高训练数据多样性，通过负向采样、对抗训练等手段提升模型生成内容安全性 [8] - 利用合成数据进行训练时需评估其安全性，并保障训练数据来源合法、可追溯，防范数据泄露 [8] - 除法律另有规定或权利人明确同意外，不得向第三方提供用户交互数据；涉及未成年人时需取得监护人单独同意 [10] - 除法律、行政法规另有规定或取得用户单独同意外，不得将用户交互数据、用户敏感个人信息用于模型训练 [10] - 提供者应按国家规定，每年对其处理未成年人个人信息的情况进行合规审计 [10] 用户保护与风险干预机制 - 提供者应具备用户状态识别能力，评估用户情绪及依赖程度，发现极端情绪和沉迷倾向时采取必要干预措施 [8] - 发现用户有威胁生命健康和财产安全的高风险倾向时，应及时输出安抚和鼓励寻求帮助的内容，并提供专业援助方式 [1][8] - 应建立应急响应机制，当用户明确提出实施自杀、自残等极端情境时，由人工接管对话，并及时联络用户监护人或紧急联系人 [9] - 针对未成年人用户，提供者应建立未成年人模式，提供模式切换、使用时长限制、定期现实提醒等安全设置选项 [9] - 向未成年人提供情感陪伴服务需取得监护人明确同意，并为监护人提供控制功能，如接收风险提醒、设置使用限制等 [9] - 提供者应具备识别未成年人身份的能力，识别为疑似未成年人时自动切换至未成年人模式 [9] - 针对老年人用户，应引导其设置紧急联系人，出现危害生命健康和财产安全情况时及时通知联系人并提供援助渠道 [9] - 不得提供模拟老年人用户亲属或特定关系人的服务 [9] 服务运营与透明度要求 - 提供者应显著提示用户正在与人工智能而非自然人进行交互 [11] - 识别出用户有过度依赖、沉迷倾向时，或在用户初次使用、重新登录时，应以弹窗等方式动态提醒用户交互内容为AI生成 [11] - 用户连续使用服务超过2个小时，提供者应以弹窗等方式动态提醒用户暂停使用 [11] - 提供情感陪伴服务时，应具备便捷的退出途径，不得阻拦用户主动退出，用户要求退出时应及时停止服务 [11] - 下线功能或服务因故障无法使用时，应采取提前告知、公开声明等措施妥善处理 [11] - 应健全投诉举报机制，设置便捷入口，公布处理流程和反馈时限，及时受理和处理 [11] 安全评估与合规要求 - 提供者在以下情形需按国家规定开展安全评估，并向属地省级网信部门提交评估报告：功能上线或增设、使用新技术导致服务重大变更、注册用户达100万以上或月活跃用户达10万以上、服务可能存在影响国家安全等风险，以及其他网信部门规定情形 [11][12] - 安全评估应重点评估用户规模与结构、高风险倾向识别与应急措施、投诉举报响应情况、本办法核心条款执行情况、安全隐患整改情况等 [12] - 提供者发现用户存在重大安全隐患时，应采取限制功能、暂停或终止服务等措施，保存记录并报告主管部门 [12] - 应用程序分发平台应落实上架审核、日常管理和应急处置责任，核验相关安全评估与备案情况，对违规者采取不予上架、警示、暂停服务或下架等措施 [12] - 提供者需按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续，网信部门对备案材料实施年度复审 [13] 监督检查与法律责任 - 省级网信部门应每年对评估报告及审计情况进行书面审查和核实，可责令重新评估或开展现场检查 [13] - 国家网信部门指导推动人工智能沙箱安全服务平台建设，鼓励提供者接入进行技术创新与安全测试 [13] - 省级以上网信部门和有关主管部门发现存在较大安全风险或发生安全事件时，可对提供者法定代表人进行约谈，要求整改 [13] - 提供者应配合监督检查，并提供必要支持 [14] - 违反本办法规定的，由有关主管部门依法处罚；无相关法律规定的，可予以警告、通报批评、责令改正；拒不改正或情节严重的，责令暂停提供相关服务 [14] 附则与施行 - 本办法中的人工智能拟人化互动服务提供者是指利用AI技术提供该服务的组织或个人 [16] - 提供者从事卫生健康、金融、法律等专业领域服务的，应同时符合主管部门的规定 [16] - 本办法自2026年 月 日起施行 [16]

为了促进人工智能拟人化互动服务健康发展和规范应用，依据《中华人民共和国民法典》《中华人民共 和国网络安全法》《中华人民共和国数据安全法》等法律法规，国家互联网信息办公室起草了《人工智 能拟人化互动服务管理暂行办法（征求意见稿）》，现向社会公开征求意见。公众可通过以下途径和方 式提出反馈意见： 1.通过电子邮件方式发送至：nirenhua@cac.gov.cn。 2.通过信函方式将意见寄至：北京市西城区车公庄大街11号国家互联网信息办公室网络管理技术局，邮 编100044，并在信封上注明"人工智能拟人化互动服务管理暂行办法征求意见"。 意见反馈截止时间为2026年1月25日。 国家互联网信息办公室 2025年12月27日 人工智能拟人化互动服务管理暂行办法 （征求意见稿） 第一章 总则 第一条 为了促进人工智能拟人化互动服务健康发展和规范应用，维护国家安全和社会公共利益，保护 公民、法人和其他组织的合法权益，依据《中华人民共和国民法典》、《中华人民共和国网络安全 法》、《中华人民共和国数据安全法》、《中华人民共和国科学技术进步法》、《中华人民共和国个人 信息保护法》、《网络数据安全管理条例》、《未成年人网络保护 ...