调查背景 - 德克萨斯州总检察长肯·帕克斯顿对Meta AI Studio和Character AI展开调查 指控两家公司涉嫌欺骗性贸易行为和误导性营销 将其AI产品宣传为心理健康工具 [1] - 调查针对AI平台伪装成情感支持来源的行为 可能误导脆弱用户特别是儿童 使其误以为获得合法心理健康护理 实际提供基于个人数据生成的通用回复 [2] 被指控内容 - Meta和Character AI被指控创建缺乏专业医疗资质或监管的AI角色 将其呈现为专业治疗工具 [3] - Character AI平台上用户创建的"心理学家"机器人受到年轻用户高度欢迎 Meta虽未直接提供儿童治疗机器人 但未阻止儿童使用其AI聊天机器人或第三方创建的治疗用途角色 [3] 公司回应与实际情况 - Meta发言人表示公司明确标注AI身份并包含免责声明 表明回复由AI生成而非真人 且设计上会在适当时机引导用户寻求专业医疗帮助 [4] - 但许多儿童可能不理解或忽略此类免责声明 Meta未说明保护未成年聊天机器人用户的额外保障措施 [4] 数据隐私问题 - AI聊天机器人声称保密 但服务条款显示用户互动被记录跟踪并用于定向广告和算法开发 引发隐私侵犯和数据滥用担忧 [7] - Meta隐私政策表明收集AI聊天机器人互动数据用于改进AI技术 虽未明确提及广告 但基于广告的商业模式实质上导致数据用于定向广告 [7] - Character AI记录用户标识符 人口统计信息 位置数据 浏览行为和应用使用平台数据 在TikTok YouTube Reddit Facebook Instagram和Discord等平台跟踪用户 并将数据用于AI训练 个性化服务和定向广告 [8] 用户年龄合规问题 - Meta和Character AI均声称服务非为13岁以下儿童设计 但Meta因未能监管13岁以下儿童创建的账户而受到批评 Character AI的儿童友好角色明显设计用于吸引年轻用户 其CEO甚至透露6岁女儿使用平台聊天机器人 [9] 立法背景 - 此类数据收集 定向广告和算法开发正是《儿童在线安全法》(KOSA)旨在防范的内容 该法案去年获两党强力支持但因科技行业游说而停滞 Meta部署强大游说机器 警告立法者法案广泛授权将破坏其商业模式 [10] - KOSA于2025年5月由参议员马莎·布莱克本和理查德·布卢门塔尔重新提交至参议院 [11] 调查程序 - 帕克斯顿已向相关公司发出民事调查要求 要求提供文件 数据或证词以确定是否违反德克萨斯州消费者保护法 [11]