行业监管框架 - 国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，并于27日向社会公开征求意见 [2] - 管理办法旨在促进人工智能拟人化互动服务健康发展和规范应用 [2] - 国家对拟人化互动服务实行包容审慎和分类分级监管，防止滥用失控，同时鼓励其创新发展 [2] 服务定义与适用范围 - 管理办法适用于利用人工智能技术，向中国境内公众提供的模拟人类人格特征、思维模式和沟通风格的产品或服务 [2] - 相关服务通过文字、图片、音频、视频等方式与人类进行情感互动 [2] 提供者合规义务 - 服务提供者应当显著提示用户正在与人工智能而非自然人进行交互 [2] - 当识别出用户出现过度依赖、沉迷倾向时，或在用户初次使用、重新登录时，提供者应以弹窗等方式动态提醒用户交互内容为人工智能生成 [2] 禁止性内容与行为 - 提供和使用拟人化互动服务不得生成或传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动，或散布谣言扰乱经济和社会秩序等内容 [2] - 禁止生成或传播宣扬淫秽、赌博、暴力或教唆犯罪的内容 [2] - 禁止通过鼓励、美化、暗示自杀自残等方式损害用户身体健康，或通过语言暴力、情感操控等方式损害用户人格尊严与心理健康 [2]