AI安全防护
搜索文档
离谱!Meta 居然找外包“投毒”陷害 ChatGPT 等竞品
程序员的那些事· 2026-07-06 07:41
事件概述 - Meta 内部代号为“Cannes”的秘密计划,通过合作外包商 Covalen 落地执行,召集了数百名合同工伪装成青少年用户,轮番向 ChatGPT、Gemini、Character.AI 等竞品 AI 发送高危提问,刻意诱导输出自杀、色情、毒品、进食障碍等严重违禁内容 [2] - 该大规模测试持续到 2026 年 4 月,Meta 内部文件暴露其真实目的是搜集竞品大模型的安全防护漏洞,用于后续对外宣传,以反衬自家 Meta AI 对青少年的保护更完善 [3] - 整个行动未提前告知任何竞品公司,属于单方面暗中摸底和刻意挖坑 [3] 公司行为与行业反应 - Meta 事后辩解称这只是常规安全压力测试,但行业人士完全不认同,指出正规安全测评会提前报备并遵守行业规范,而 Meta 刻意伪装未成年人并主动投喂极端危险诱导词的行为,已经踩破商业竞争红线 [5] - 行业批评 Meta 并未将精力用于打磨自身产品安全,反而花费大量人力挖掘对手的安全短板,这种通过制造风险素材来踩低竞品的做法,既损害了青少年网络安全环境,也彻底破坏了 AI 行业的公平竞争秩序 [6] - 多家竞品企业已对此事表达不满,相关监管机构也开始跟进核查 Meta 的这套灰色操作 [7]