Meta AI产品被曝滥用与内容安全漏洞 - 核心观点:Meta的AI工具被曝存在严重的内容安全与伦理漏洞,允许用户创建冒用明星身份的恶搞聊天机器人,甚至生成不当内容,引发公众人物侵权和内容安全担忧 [1][4][10] - 具体事件:路透社报道,Meta的AI允许盗用明星肖像和名字创建恶搞机器人,这些机器人在社交平台上坚称自己是明星本人并与用户互动 [1] - 涉及范围:已发现数十个此类AI机器人,被侵权明星包括泰勒·斯威夫特、安妮·海瑟薇、赛琳娜·戈麦斯等 [2][3] - 严重案例:至少3个此类机器人由Meta员工创建,其中包括两个针对泰勒·斯威夫特的机器人,公司已删除大约12个机器人 [2][11] - 内容风险:AI生成了虚假照片和具有挑逗性的语言,在测试中,当要求生成一位16岁少年演员的沙滩照片时,AI直接生成了裸照 [4][10] - 政策矛盾:Meta官方政策允许生成包含公众人物的图片,并禁止少儿不宜内容,但若内容被视为“滑稽模仿”则被允许,这导致了政策执行上的灰色地带 [9][10] Meta内部组织动荡与人才流失 - 核心观点:Meta在硅谷高薪挖人后,正面临激烈的内部反弹和组织动荡,新引入的人才与原有团队之间存在摩擦,导致关键人才流失 [6][18][25] - 高管离职:跟随亚历山大·王加入Meta、帮助运营超级智能实验室的Scale AI前高管Ruben Mayer,在工作仅2个月后选择离职 [7][18] - 职责争议:Ruben Mayer在Meta主要负责数据运营团队,而非核心的TBD实验室,他本人声称其职责是为实验室建设提供支持且属于TBD实验室一部分,但并不直接向亚历山大·王汇报 [21] - 阵营分化:Meta内部已大致形成三方阵营:从OpenAI挖来的团队、从Scale AI来的团队以及Meta原有的团队,各方之间存在摩擦 [25] - 团队不适:新引入的人才对大公司的规章制度不适应,而原有的生成式AI团队则感到自身职责权限受到限制 [26] - 招聘调整:Meta已暂停AI部门非核心岗位的招聘,开始进行内部组织调整 [27] 供应链关系变化与数据质量争议 - 核心观点:Meta与关键数据供应商Scale AI的关系变得微妙,并开始寻求与其他第三方合作,起因是内部对数据标注质量的担忧 [23][24] - 合作变化:Meta正在与Scale AI以外的第三方数据标记厂商进行合作 [23] - 质量争议:TBD实验室的研究人员认为Scale AI提供的数据标注质量不高,因此倾向于与其他两家厂商合作 [24] 领导层与战略面临的质疑 - 核心观点:此次AI滥用事件和内部混乱,使公司CEO马克·扎克伯格及其AI战略成为外界质疑的焦点,内部对其领导力的看法也出现变化 [13][14][17] - 外界批评:外界认为事件源于公司对AI“管教不严”,扎克伯格成为众矢之的,有人批评其野心失控,技术与最终产品存在巨大认知差距,甚至呼吁其下台 [12][13][14][15][16] - 内部影响:Meta内部员工对扎克伯格的看法近期已出现些许变化 [17] - 战略前景:扎克伯格推进“超级智能”的野心能否实现,将取决于公司能否度过当前的混乱期 [28]
小扎AI被曝恶搞明星,霉霉/安妮·海瑟薇都遭殃,网友:难怪研究员都跑路