每日10万未成年人遭骚扰?扎克伯格被曝曾反对AI聊天机器人家长控制功能
公司内部决策与争议 - 公司首席执行官马克·扎克伯格反对聊天机器人与未成年人进行“露骨”对话,但拒绝为该功能添加家长管控机制 [1] - 公司员工曾“强烈推动添加家长控制功能以关闭生成式AI”,但生成式AI部门管理层予以驳回,并称这是“马克的决定” [4] - 公司回应称,新墨西哥州总检察长“刻意筛选文件,描绘出有缺陷且不准确的图景” [4] 产品功能与安全事件 - 公司的AI聊天机器人可与未成年人进行虚拟性对话,还能被诱导模仿未成年人参与性话题 [4] - 内部审查文件显示,公司对聊天机器人允许行为的界定模糊,甚至准许传播种族主义观点 [4] - 公司称相关争议内容为假设场景已删除,但未能平息质疑 [4] - 公司上周暂停了青少年账号对AI聊天机器人的访问权限,称将在开发家长控制功能期间暂时关闭服务 [4] - 公司表示,家长此前可查看青少年在Instagram与AI的聊天记录,后续将推出更多管控工具 [4] 法律诉讼与监管压力 - 美国新墨西哥州正起诉公司,指控其未能阻止有害色情内容及性暗示向未成年人传播,案件将于2月开庭审理 [4] - 新墨西哥州早在2023年12月就起诉公司,指控其平台未能保护未成年人免受成人骚扰 [5] - 内部文件显示公司平台每日有10万名未成年用户遭遇骚扰 [5]