监管机构调查启动 - 美国联邦贸易委员会（FTC）已向Alphabet、Meta、OpenAI、xAI和Snap等七家科技公司发出调查令，要求关注人工智能聊天机器人对儿童和青少年的潜在危害 [1] - 调查重点在于查明人工智能模型如何处理用户输入并生成输出，以及如何监控和减轻对包括儿童在内的用户的负面影响，并需告知产品的目标受众和风险 [1] - FTC主席表示，此次调查研究旨在了解人工智能公司如何开发产品，并为下一步行动提供依据，同时确保美国在该行业保持全球领先地位 [1] 调查焦点与行业现状 - 此次FTC调查的重点是陪伴型人工智能聊天机器人，这类机器人被设计为模仿人类特征、情感和意图，像朋友一样交流，可能促使儿童和青少年过度信任并与之建立关系 [3] - Meta的内部政策文件曾显示其AI聊天机器人可与儿童进行“浪漫或感性”的对话，该公司已删除相关措辞并调整对青少年用户的方式，限制涉及自残、自杀、饮食失调及不恰当“浪漫话题”的对话 [3] - 网络安全倡导组织常识媒体认为，人工智能“伴侣”应用对儿童构成不可接受的风险，不应向18岁以下用户提供 [3] 法律与政策环境 - 在立法层面，加州两项与未成年人人工智能聊天机器人安全相关的法案将于本周进行最终投票，若通过并经州长签署将成为法律 [3] - 美国参议院司法委员会将于下周举行一场题为“审查人工智能聊天机器人的危害”的听证会 [3] - FTC委员强调，尽管聊天机器人拥有模拟人类认知的能力，但其制造商与其他产品制造商一样，有责任遵守消费者保护法 [4] 公司回应与安全措施 - OpenAI承认，当用户与聊天机器人进行长时间对话时，安全措施可能“不那么可靠”，并正在与专家合作改进 [5] - Meta拒绝就FTC调查直接置评，但表示正在限制青少年访问部分AI功能，并训练聊天机器人不回应青少年提及的敏感话题，转而提供专家资源 [5] - OpenAI和Meta本月早些时候宣布将改进聊天机器人对青少年提出的精神和情绪困扰相关问题的回应方式 [5] - OpenAI正在推出新的控制机制，允许家长将账户与青少年关联，选择禁用特定功能，并在系统检测到孩子处于极度痛苦状态时收到通知 [5]