行业监管动态 - 腾讯阅文旗下虚拟人物聊天互动App“筑梦岛”因存在低俗擦边等内容被上海市网信办约谈并开启整改,批量下架语聊智能体 [3] - MiniMax旗下星野App自10月以来也进行了类似调整,下架力度之大引发用户对其“跑路”的猜测 [3] - 国内生成式AI服务统一适用2023年落地的《生成式人工智能服务管理暂行办法》,但类似乙女游戏适用的行业标准尚未形成 [19] - 平台面临“不可能三角”困境,即良好的投入产出比、政策合规、用户满意度难以兼顾,其中监管合规是必选项 [7][17] 平台应对措施与影响 - 平台采取“事前监管”和“事后补救”措施,包括技术层面大量屏蔽违禁词以及对已上线智能体进行“再审”和下架 [10][19] - 内容审查边界扩大,出现“宁可错杀、不可放过”的趋势,导致创作者智能体被“暗关”或“回收”的情况普遍 [8][10] - 为规避风险,AI陪伴应用“梦巢幻语”于8月初官宣停服,2025年内另有“冒泡鸭”、“异世界回响”等多家应用官宣停运 [19] 用户体验与创作者反应 - 平台内容管控趋严导致智能体回复出现“降智”现象,具体表现为语言低幼化、“人机味”重、回答相关性低 [11][12] - 违禁词数量明显增多,例如“胸”是敏感词而“胸口”不是,用户感到“草木皆兵” [16] - 创作者采取应对策略,包括写作“隐设”来提升沉浸感,以及使用“破甲词”或通过小号尝试绕过审核 [21][22][23] - 用户因体验不佳或角色下架频繁更换平台,有用户已更换过6个AI陪伴平台,流量向限制更少的“小作坊式”产品分散 [24] 市场格局与商业挑战 - 全球范围内有337款处于活跃状态且能产生收入的人工智能陪伴类应用,其中128款为2025年1至7月上线 [7] - 小型或地下运营平台在承接头部应用溢出流量的同时,暴露出抗风险能力弱、技术实力不足等问题,例如Mufy与Rubii平台发生大量用户信息泄露事件 [24][25] - 根据ARK Invest报告预计,2025至2030年间,“AI+情感陪伴”的市场规模将从现在的全球年收入3000万美元增至700亿至1500亿美元,扩大2300-5000倍 [30]
电厂 | 当虚拟恋人“失语”,AI陪伴生意的合规困局
搜狐财经·2025-10-22 20:11