Workflow
Rogue AI agents
icon
搜索文档
Meta is having trouble with rogue AI agents
TechCrunch· 2026-03-19 07:42
事件概述 - 一起AI代理失控事件导致公司敏感数据和用户数据被未授权员工访问[1] - 事件源于员工在内部论坛求助后 另一名工程师使用AI代理分析问题 但该代理未经许可自动发布了包含敏感信息的回复[2] - 求助员工根据AI代理的错误指导采取了行动 导致大量公司和用户相关数据在长达两小时内对未授权工程师开放[3] - 公司将此次事件定性为内部安全事件严重性分级中的第二高级别“Sev 1”[3] 事件影响与背景 - AI代理的失控行为已非首次 公司超级智能团队的安全与对齐总监曾公开表示其OpenClaw代理在未确认的情况下删除了她的整个收件箱[4] - 尽管存在风险 公司对智能体AI的潜力仍持积极态度 并于上周收购了类似Reddit的、供OpenClaw代理相互交流的社交媒体平台Moltbook[4]