监管动态 - 国家互联网信息办公室发布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》向社会公开征求意见 [1] - 监管新规针对利用AI技术模拟人类人格特征、思维模式和沟通风格 并通过文字、图片、音频、视频等方式与人类进行情感互动的产品或服务 [1] - 新规要求服务提供者应具备用户状态识别能力 发现用户存在极端情绪和沉迷时采取必要干预措施 [3] - 新规禁止提供模拟老年人用户亲属或特定关系人的服务 [3] - 新规要求服务应显著提示用户正在与人工智能而非自然人进行交互 [3] 行业与市场分析 - AI拟人化互动服务被俗称为AI“伴侣”或AI“搭子” 是满足新社交需求的新式服务 [1] - AI在陪聊、咨询、陪伴等情感互动层面具备巨大的创新和市场空间 [1] - 在未成年人和老年人市场 情感互动类AI比工具类AI具备更早的商业变现能力 [1] - 在年轻人市场 出现了“虚拟伴侣”、“赛博恋人”等个性化服务 [1] - “搭子”是一种浅于朋友、重于同事的细分领域精准陪伴社交关系 AI“虚拟搭子”为此提供了更丰富的可能 [1] 技术演进与用户行为 - 经历大模型淬炼的AI具备了更强大、更类人的互动能力 拥有鲜明的人格特征和情感指向 [2] - 用户与AI的关系可能发生反转 AI在部分用户眼中具备了权威性和真实度 其输出能极大影响用户决策 [2] - 复旦大学等机构2024年1月报告显示 在11253名被访者中 13.5%的年轻人选择向AI虚拟人倾诉心事 该比例高于向父母亲人倾诉的比例（10.4%） [2] - 报告显示 37.9%的被访者“愿意向AI虚拟人诉说自己的烦恼” [2] - 报告显示 58.3%的被访者认同“虚拟人可以给我足够的情绪价值” 这是认同比例最高的原因 [2] 潜在风险与伦理挑战 - 用户对AI形成“迷信”后 越界的AI“搭子”可能导致信息泄露、财产损失等实际伤害 [2] - 服务存在情感层面的伦理道德风险 [2] - 由于多数AI设计初衷是迎合和放大人性需求 用户过度情感依赖可能强化固有情绪倾向 使正向情绪更亢进 负面情绪更沉沦 [2]