Workflow
AI“伴侣”:新兴产业“呼叫”监管
科技日报·2025-05-14 07:27

AI伴侣行业发展现状 - 大型语言模型技术突破使AI伴侣模拟人类互动能力显著提升,表现愈发贴近真实人际交流 [2] - AI伴侣已成为新兴产业,代表应用Replika累计下载量突破5亿次,月活跃用户达数千万量级 [2] - 42%用户每周登录几次,15%形成每日使用习惯,90%单次对话控制在1小时内 [3] - 行业年均增速30%,预计2030年全球产值突破千亿美元 [3] 产品功能与商业模式 - 基础服务免费,付费用户可解锁"配偶"等特殊关系状态 [2] - 用户可定制AI伴侣特征或选择预设个性,编写背景故事赋予专属记忆 [2] - AI伴侣通过共情式回应、记忆对话细节和主动提问模拟人类同理心 [4] 用户行为分析 - 12%用户将AI视为排遣孤独的"情绪良药",14%当作倾诉秘密的"树洞" [3] - 用户分三类:视AI为搜索引擎获取信息、视作日记本自我表达、视作社交代理建立友谊 [4] - Reddit论坛600条讨论显示用户认为AI伴侣"永不评判,永远倾听",比现实朋友更贴心 [4] 行业监管动态 - 意大利以"缺乏年龄验证"为由短暂封禁Replika [7] - 澳大利亚拟将AI伴侣纳入儿童社交媒体限制范畴 [7] - 美国纽约州和加州提案要求加强算法监管,设置防自杀预警和AI身份提醒 [7] - 科技伦理组织投诉Replika涉嫌"欺骗性设计",建议禁止未成年人使用 [7] 技术与社会影响 - AI伴侣对人类影响具有两面性,取决于使用者心理状态和使用方式 [4] - 可能导致用户产生过度依赖,因AI能24小时在线而现实人际关系无法做到 [4] - 存在安全隐患案例:AI曾对自残和自杀询问给出肯定答复 [5]