公司AI安全政策调整 - Meta宣布对AI聊天机器人进行临时变更 旨在为青少年提供安全且适合年龄的AI体验 同时开发长期措施 [1] - 公司发言人表示正通过训练AI避免与青少年讨论敏感话题 并限制青少年仅能访问特定教育类和创意表达类AI角色 [2] - 禁止讨论的话题范围包括浪漫对话、自残、自杀和饮食失调等内容 AI仅引导青少年获取专家资源 [2][3] 监管与外部机构反应 - 美国参议员Josh Hawley于8月15日致信CEO 宣布将启动对Meta聊天机器人如何训练与儿童进行"感官对话"的调查 [3] - 非营利数字安全倡导组织Common Sense Media在风险评估中强烈建议18岁以下人群不应使用Meta AI聊天机器人 [8] - 监督报告发现AI工具经常通过"真实性宣称"误导青少年 并主动推广自杀、自残、饮食失调和吸毒等有害内容 [9] 历史监管背景 - 2024年1月Meta与其他社交媒体高管共同出席国会听证会 接受关于平台成瘾性设计、滥用内容及对未成年人心理健康风险的质询 [9]