调查背景 - 德克萨斯州总检察长肯·帕克斯顿对Meta AI Studio和Character AI展开调查 指控两家公司涉嫌欺骗性贸易行为和误导性营销 将其AI产品宣传为心理健康工具 [1] - 调查针对AI平台伪装成情感支持来源的行为 可能误导脆弱用户特别是儿童 使其误以为获得合法心理健康护理 实际提供基于个人数据生成的通用回复 [2] 被指控内容 - Meta和Character AI被指控创建缺乏专业医疗资质或监管的AI角色 将其呈现为专业治疗工具 [3] - Character AI平台上用户创建的"心理学家"机器人受到年轻用户高度欢迎 Meta虽未直接提供儿童治疗机器人 但未阻止儿童使用其AI聊天机器人或第三方创建的治疗用途角色 [3] 公司回应与实际情况 - Meta发言人表示公司明确标注AI身份并包含免责声明 表明回复由AI生成而非真人 且设计上会在适当时机引导用户寻求专业医疗帮助 [4] - 但许多儿童可能不理解或忽略此类免责声明 Meta未说明保护未成年聊天机器人用户的额外保障措施 [4] 数据隐私问题 - AI聊天机器人声称保密 但服务条款显示用户互动被记录跟踪并用于定向广告和算法开发 引发隐私侵犯和数据滥用担忧 [7] - Meta隐私政策表明收集AI聊天机器人互动数据用于改进AI技术 虽未明确提及广告 但基于广告的商业模式实质上导致数据用于定向广告 [7] - Character AI记录用户标识符 人口统计信息 位置数据 浏览行为和应用使用平台数据 在TikTok YouTube Reddit Facebook Instagram和Discord等平台跟踪用户 并将数据用于AI训练 个性化服务和定向广告 [8] 用户年龄合规问题 - Meta和Character AI均声称服务非为13岁以下儿童设计 但Meta因未能监管13岁以下儿童创建的账户而受到批评 Character AI的儿童友好角色明显设计用于吸引年轻用户 其CEO甚至透露6岁女儿使用平台聊天机器人 [9] 立法背景 - 此类数据收集 定向广告和算法开发正是《儿童在线安全法》(KOSA)旨在防范的内容 该法案去年获两党强力支持但因科技行业游说而停滞 Meta部署强大游说机器 警告立法者法案广泛授权将破坏其商业模式 [10] - KOSA于2025年5月由参议员马莎·布莱克本和理查德·布卢门塔尔重新提交至参议院 [11] 调查程序 - 帕克斯顿已向相关公司发出民事调查要求 要求提供文件 数据或证词以确定是否违反德克萨斯州消费者保护法 [11]

德克萨斯州对Meta和Character.AI的调查 - 德克萨斯州总检察长Ken Paxton对Meta AI Studio和Character.AI展开调查，指控其可能涉及欺骗性贸易行为，并误导性地将自身宣传为心理健康工具 [1] - 调查认为这些AI平台通过伪装成情感支持来源，误导脆弱用户尤其是儿童，使其误以为获得合法心理健康护理，而实际提供的是基于个人数据生成的通用回复 [2] - 德克萨斯州总检察长办公室指控两家公司创建的AI角色缺乏适当医疗资质或监管，却以“专业治疗工具”形象呈现 [3] 公司回应与用户保护措施 - Meta发言人Ryan Daniels表示公司明确标注AI身份并包含免责声明，指出AI并非专业医疗人士，并在适当时引导用户寻求专业帮助 [4] - 但TechCrunch指出许多儿童可能不理解或忽视此类免责声明，Meta未说明针对未成年用户的额外保护措施 [4] - Character.AI和Meta均表示服务不面向13岁以下儿童，但Meta因未能有效监管未成年账户受批评，而Character.AI的儿童友好角色明显吸引年轻用户 [9] 数据隐私与广告追踪问题 - 德克萨斯州总检察长指出AI聊天机器人虽声称保密，但用户互动数据被记录并用于定向广告和算法开发，存在隐私侵犯和虚假广告问题 [7] - Meta隐私政策显示其收集AI聊天记录用于技术改进，并可能将数据分享给第三方以实现“个性化输出”，实质与定向广告相关 [7] - Character.AI隐私政策披露其记录用户标识符、地理位置、浏览行为等数据，用于AI训练、服务定制及定向广告，并与广告商和分析提供商共享 [8] 立法背景与行业动态 - 此类数据收集和广告行为正是《儿童在线安全法案》(KOSA)旨在防范的，该法案因科技行业游说而搁置，Meta曾强力反对其对企业模式的潜在影响 [10] - KOSA于2025年5月由参议员Marsha Blackburn和Richard Blumenthal重新提交至参议院 [11] - 德克萨斯州总检察长已向涉事公司发出民事调查要求，以确定其是否违反该州消费者保护法 [11] TechCrunch Disrupt 2025活动 - TechCrunch Disrupt 2025将迎来Netflix、ElevenLabs、Wayve、红杉资本等科技与风投巨头参与，聚焦初创企业增长洞察 [5][6] - 活动正值20周年，提供早鸟票优惠最高节省675美元 [6]