公司与政府合作 - 谷歌已与美国国防部签署协议 允许其在机密环境中使用公司的人工智能技术 [1][2] - 该协议是现有合同的修正案 谷歌去年底曾与五角大楼签署协议将其人工智能用于非机密工作 [3] - 谷歌表示支持政府机构的机密和非机密项目 应用领域包括物流、网络安全、外交翻译、舰队维护和关键基础设施防御 [4] 员工反应与内部争议 - 谷歌DeepMind研究科学家Andreas Kirsch对签署该协议表示“难以置信的羞耻”和“失望” [1][4] - 超过600名谷歌员工曾联名致信首席执行官Sundar Pichai 敦促其阻止五角大楼将公司人工智能用于此类工作 [2][6] - 多名员工对协议签署感到沮丧 其中一人表示并不惊讶 [6] 协议内容与公司立场 - 公司重申其承诺遵守公私部门的共识 即人工智能不应在没有适当人类监督的情况下用于国内大规模监控或自主武器 [4] - 谷歌去年更新了其人工智能原则 删除了不将人工智能用于武器或监控的承诺 [7] - DeepMind高管在一月份向员工表示 他们应预期未来会有更多的国防交易 [7] 行业背景与比较 - Kirsch在其帖子中提到了OpenAI与五角大楼就机密系统达成的类似协议 [8] - 他认为 在OpenAI的合同受到严格审查后 谷歌签署一份限制更少的合同是短视和贪婪的行为 会失去信任 [9] 潜在影响与批评 - 员工在信中担忧人工智能在致命自主武器和大规模监控等领域的应用 [6] - 员工认为 作为开发该技术的人员 他们有责任强调并防止其最不道德和最危险的用途 [6] - Kirsch批评公司回避了关于此事的诚实讨论 且不愿在法规法律尚未跟上的情况下表明立场 尽管该合同规模相对于其整体收入和利润而言成本不高 [5]