公司产品更新 - Meta推出名为“AI Insights”的新功能 允许监督“青少年账户”的父母查看其子女在过去一周内通过Facebook、Messenger或Instagram向Meta AI询问了哪些主题[1][3] - 该功能目前在美国、英国、澳大利亚、加拿大和巴西上线 并将在未来几周内向全球推广[3] - 父母在应用内或网页端的监督工具中可看到“Insights”标签页 点击后可查看过去7天子女询问AI的主题 主题涵盖学校、娱乐、生活方式、旅行、写作、健康等[7] - 每个主题下还有细分类别 例如生活方式主题下有时尚、食品和假日 健康主题下有健身、身体健康和心理健康[8] - 若青少年在Instagram上向AI询问自杀或自残相关内容 系统将向父母发出警报 此功能已于2月添加[8] - 公司表示 美国参与监督功能的青少年账户数量在过去一年中翻了一番[9] 公司安全措施背景 - 此次“AI Insights”功能是Meta为父母和儿童使用AI引入的一系列保障措施的最新一项 去年10月 公司已允许父母阻止孩子与AI聊天机器人角色互动或屏蔽特定角色[4] - Meta与“网络欺凌研究中心”合作 开发了11个对话开场白 以帮助父母与子女讨论AI 父母可通过Insights标签页中的链接获取这些内容[9] - 公司表示此举旨在“让父母监督对父母而言更有价值”[9] 行业监管与法律环境 - 2023年 美国超过40个州对Meta提起诉讼 指控其试图让儿童对其应用程序上瘾 从而导致青少年心理健康危机[6] - 上月 Meta在一起儿童剥削案中被判负有责任 被责令支付3.75亿美元 另一起加州案件中亦被判负有责任 该案指控Instagram和YouTube的设计对儿童具有成瘾性[5] 专家与行业观点 - 专家认为 新功能将内容审核的责任转移给了父母 但可能通过为父母提供监控工具而对潜在存在虐待的家庭环境中的儿童造成伤害[10] - 有专家指出 父母监控并非内容审核 随着Meta等公司减少内容审核工作 儿童和青少年更频繁地暴露于伤害之中 让产品减少危害不应是父母的工作[11] - 专家担忧 LGBTQ+青少年可能受父母监控影响最大 因为他们常转向数字空间寻求支持 对父母监控的恐惧可能迫使儿童进入网络更不安全的角落[11][12] - 在线儿童安全组织负责人认为 新功能是“朝着正确方向迈出的一步” 但还远远不够 并指责Meta在青少年安全方面不可信 继续将利润置于安全之上 例如其2024年在美国众议院游说扼杀《儿童在线安全法案》[13] - 该负责人建议父母应使用所有可用的在线家长控制工具 并经常与子女讨论网络安全 同时强调控制工具应更强大有效 并应由所有大型科技公司实施 而非仅Meta一家[14]