拟规范人工智能拟人化互动服务
新浪财经·2025-12-29 06:35
政策发布与目标 - 国家网信办于12月27日发布《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,公开征求意见截止时间为2026年1月25日 [1] - 政策鼓励行业在充分论证安全性与可靠性的前提下,合理拓展应用场景,特别是在文化传播与适老陪伴等领域,旨在构建符合社会主义核心价值观的应用生态体系 [1] 核心合规与内容监管要求 - 行业提供和使用服务必须遵守法律法规,尊重社会公德与伦理道德 [1] - 行业不得生成或传播宣扬淫秽、赌博、暴力或教唆犯罪的内容 [1] - 行业不得通过算法操纵、信息误导或设置情感陷阱等方式,诱导用户作出不合理决策 [1] 特定用户群体保护措施 - 行业提供者必须建立未成年人模式,提供模式切换、定期现实提醒、使用时长限制等个性化安全设置选项 [1] - 针对老年人用户,行业提供者应引导其设置紧急联系人,并在发现其生命健康或财产安全受危害时,及时通知联系人并提供社会心理援助或紧急救助渠道 [1] - 行业不得提供模拟老年人用户亲属或特定关系人的服务 [1] 用户状态识别与运营机制 - 行业提供者需具备用户状态识别能力,在保护隐私前提下评估用户情绪及对服务的依赖程度,并对存在极端情绪或沉迷的用户采取必要干预措施 [2] - 行业提供者必须健全投诉举报机制,设置便捷入口,公布处理流程与反馈时限,并及时受理、处理与反馈结果 [2]