公司内部对军事合作的反应 - 谷歌DeepMind研究员Alex Turner因公司与美国国防部签署AI军事合作协议而于6月辞职 [1] - 该研究员在谷歌工作超过两年,专注于AI安全,辞职决定是在谷歌签署允许五角大楼将AI用于机密行动的协议后做出的 [1] - 另一名DeepMind研究员在X平台上表示对谷歌的协议感到“羞耻”,另有一名员工于5月在公司内部发布了辞职信,同样提及与美军关系 [4] 公司与国防部的合作详情 - 五角大楼于5月初确认已与谷歌、微软、亚马逊和OpenAI等公司签署协议,用于“合法的作战使用” [2] - 谷歌发言人表示,公司仍致力于私人和公共部门的共识,即AI不应在没有适当人类监督的情况下用于国内大规模监控或自主武器 [3] - 该机密协议限制了谷歌对其AI使用方式的监督程度 [3] 员工抗议与内部沟通 - 4月,谷歌近195,000名员工中约有600人签署请愿书,要求公司不要签署任何涉及机密工作的协议 [3] - Turner曾于今年早些时候向DeepMind CEO Demis Hassabis提交其军事AI框架提案,并被建议由谷歌政策部门的两名高级人员进行评估,但后续沟通停止 [10] - Turner曾与谷歌首席科学家Jeff Dean共进午餐讨论其担忧,并协助组织员工致信Dean,呼吁在与五角大楼的协议中划定红线,例如禁止Gemini在没有人类监督的情况下操控自主武器 [9] 公司AI原则的变更 - 2025年初,谷歌更新了其AI原则,删除了关于不将AI用于武器或大规模监控的承诺 [7] - DeepMind CEO Demis Hassabis当时共同撰写博客文章宣布了这些变更,该决定在当时已引发部分员工的反对 [7] - Turner在内部信息中指出,Hassabis在员工大会上声称其原则未变与删除承诺的决定之间存在脱节 [8] 研究员的后续状况 - Turner表示,如果谷歌未签署该协议,他本可能再多工作几个月,但签署后他无法继续工作 [5] - 辞职后,Turner目前没有其他工作安排,正在从事独立的AI安全与安保工作,并强调自己未加入竞争对手的实验室 [11] - 谷歌发言人对Business Insider表示,公司一直乐于听取Turner的想法 [6]
A DeepMind researcher resigned over its AI military deal: 'I couldn't stay at Google in good conscience'