公司动态：Meta暂停青少年访问AI角色并计划推出专用版本 - Meta宣布在全球范围内暂停其所有应用中青少年对AI角色的访问[1] - 公司表示并未放弃相关努力 而是计划为青少年开发一个特殊版本的AI角色[1] - 暂停措施将于未来几周内生效 适用于所有提供青少年生日信息的用户 以及被公司年龄预测技术怀疑为青少年的成年账户[5] - 当最终推出新的青少年专用AI角色时 这些角色将内置家长控制功能 并提供与年龄相符的回应 话题将限于教育、体育和爱好等领域[6] 监管与诉讼背景：Meta面临多起青少年保护相关法律挑战 - 此次行动发生在新墨西哥州一起针对Meta的诉讼即将开庭审理之前 该公司被指控在保护儿童免受其应用上性剥削方面努力不足[2] - Meta还面临另一起定于下周开庭的审判 指控其平台导致社交媒体成瘾 首席执行官马克·扎克伯格预计将在审判开始后出庭作证[7] - 报道指出 Meta曾试图限制与社交媒体对青少年心理健康影响相关的证据开示[2] 产品功能演变：从分级控制到全面暂停的家长控制措施 - 2023年10月 Meta推出了新的家长控制功能 专注于定制青少年在其应用上与AI互动的体验 这些功能的灵感来自PG-13电影分级 限制了青少年访问极端暴力、裸露和图形化毒品使用等特定话题[2] - 几天后 公司预览了针对AI角色的控制功能 允许父母和监护人监控话题并阻止访问某些角色 当时Meta表示家长将能够完全关闭与AI角色的聊天[4] - 这些功能原定于今年发布 但Meta现在采取了更严格的措施 即完全关闭青少年的AI角色访问 公司表示听取了家长希望更多了解和控制其青少年与AI角色互动的意见 从而决定暂停访问[4] 行业趋势：AI与社交媒体公司加强青少年安全措施 - 除了社交平台 AI公司在面临指控其助长自残行为的诉讼后 也不得不修改针对青少年的体验[8] - 2023年10月 允许用户与各种AI化身聊天的初创公司Character.AI 禁止18岁以下用户与聊天机器人进行开放式对话[8] - 2023年11月 该初创公司表示将为儿童构建互动故事[8] - 过去几个月 OpenAI为ChatGPT添加了新的青少年安全规则 并开始预测用户年龄以应用内容限制[8]

公司行动：暂停青少年AI角色访问 - Meta宣布在全球范围内暂停其所有应用中青少年对AI角色的访问 公司表示此举并非放弃相关努力 而是计划为青少年开发更新版本的AI角色[1] - 该决定是在新墨西哥州一起针对Meta的诉讼即将开庭前做出的 该公司被指控在保护儿童免受其应用上性剥削方面努力不足[2] - 公司表示 此举是听取了家长希望更多了解和掌控青少年与AI角色互动的反馈后做出的改变[3] 公司行动：现有及计划中的控制措施 - 在10月 公司曾预览了针对AI角色的控制功能 允许父母和监护人监控话题并阻止访问特定角色 父母将能够完全关闭与AI角色的聊天功能[2] - 这些功能原定于今年发布 但公司目前正在为青少年完全关闭AI角色 同时将AI角色更新至新版本[2] - 公司此前已在Instagram上推出了家长控制功能 灵感来自PG-13电影分级 限制青少年访问某些话题 如极端暴力、裸露和生动的毒品使用内容[4] - 当公司推出新的AI角色时 它们将内置家长控制 新角色将提供适合年龄的回应 并仅限于教育、体育和爱好等话题[6] 公司声明与实施细节 - 公司在一篇更新的博客文章中表示 从未来几周开始 青少年将无法访问其应用中的AI角色 直到更新后的体验准备就绪 此规定适用于所有向公司提供青少年生日信息的用户 以及那些自称是成年人但根据公司年龄预测技术被怀疑是青少年的用户[5] - 公司澄清 新版本的AI角色在推出时将面向所有人开放 而不仅仅是青少年 并将包含家长控制功能[9] 行业监管与法律环境 - 社交媒体公司正受到监管机构的严格审查 除了新墨西哥州的案件 Meta下周还面临另一场审判 指控其平台导致社交媒体成瘾 首席执行官马克·扎克伯格预计将在审判开始后出庭作证[7] - 除了社交平台 人工智能公司在面临被指控助长自残行为的诉讼后 也不得不修改其针对青少年的体验 例如 Character.AI在10月禁止了18岁以下用户与聊天机器人进行开放式对话 并在11月表示将为儿童构建互动故事 在过去的几个月里 OpenAI为ChatGPT添加了新的青少年安全规则 并开始预测用户年龄以应用内容限制[8]