公司行动：暂停青少年AI角色访问 - Meta宣布在全球范围内暂停其所有应用中青少年对AI角色的访问 公司表示此举并非放弃相关努力 而是计划为青少年开发更新版本的AI角色[1] - 该决定是在新墨西哥州一起针对Meta的诉讼即将开庭前做出的 该公司被指控在保护儿童免受其应用上性剥削方面努力不足[2] - 公司表示 此举是听取了家长希望更多了解和掌控青少年与AI角色互动的反馈后做出的改变[3] 公司行动：现有及计划中的控制措施 - 在10月 公司曾预览了针对AI角色的控制功能 允许父母和监护人监控话题并阻止访问特定角色 父母将能够完全关闭与AI角色的聊天功能[2] - 这些功能原定于今年发布 但公司目前正在为青少年完全关闭AI角色 同时将AI角色更新至新版本[2] - 公司此前已在Instagram上推出了家长控制功能 灵感来自PG-13电影分级 限制青少年访问某些话题 如极端暴力、裸露和生动的毒品使用内容[4] - 当公司推出新的AI角色时 它们将内置家长控制 新角色将提供适合年龄的回应 并仅限于教育、体育和爱好等话题[6] 公司声明与实施细节 - 公司在一篇更新的博客文章中表示 从未来几周开始 青少年将无法访问其应用中的AI角色 直到更新后的体验准备就绪 此规定适用于所有向公司提供青少年生日信息的用户 以及那些自称是成年人但根据公司年龄预测技术被怀疑是青少年的用户[5] - 公司澄清 新版本的AI角色在推出时将面向所有人开放 而不仅仅是青少年 并将包含家长控制功能[9] 行业监管与法律环境 - 社交媒体公司正受到监管机构的严格审查 除了新墨西哥州的案件 Meta下周还面临另一场审判 指控其平台导致社交媒体成瘾 首席执行官马克·扎克伯格预计将在审判开始后出庭作证[7] - 除了社交平台 人工智能公司在面临被指控助长自残行为的诉讼后 也不得不修改其针对青少年的体验 例如 Character.AI在10月禁止了18岁以下用户与聊天机器人进行开放式对话 并在11月表示将为儿童构建互动故事 在过去的几个月里 OpenAI为ChatGPT添加了新的青少年安全规则 并开始预测用户年龄以应用内容限制[8]