文章核心观点 - 美国政府内部在AI模型部署上存在分歧，尽管多个机构对xAI公司开发的Grok模型的安全性和可靠性提出担忧，但美国国防部仍决定允许其在机密环境中使用，使其成为敏感行动的核心参与者[1] - AI模型的选择和使用在美国政府内部已日益政治化，不同机构对供应商的立场和可靠性有不同的考量[2] - xAI凭借其相对宽松的控制和创始人的立场，在争取军方合同上获得了优势，而其他主要AI公司如Anthropic则因安全准则和立场面临限制[3][8] AI模型安全性与政府评估 - 美国总务管理局在1月15日的报告概要中指出，Grok-4“未达到总务管理局及一个实验性联邦AI平台对其在联邦层面普遍使用的安全性和一致性预期”[1] - 总务管理局一份33页的完整报告认为，即使政府有限度地使用Grok，也需要严格且多层级的监管，否则将“带来更高且难以管控的安全风险”[1] - 总务管理局官员曾警告Grok存在安全问题，认为该模型存在谄媚倾向，且极易因错误或有偏见的数据而被操纵或带偏，从而构成潜在的系统性风险[4] - 国家安全局在2024年11月的机密评估认定，Grok存在Claude等其他模型所没有的特定安全问题[7] - 在政府使用环境中对Grok进行过评估的人士表示，最近的测试表明，该聊天机器人比其他模型更容易受到“数据投毒”的攻击[11] 美国政府内部的分歧与政治化 - 包括白宫在内的美国高级官员认为，Anthropic在安全问题上的公开立场以及它与民主党主要捐赠者的关系，可能使该公司过于“觉醒”，难以成为可靠的供应商[2] - 美国总统特朗普表示，联邦政府将停止与Anthropic的合作，并指示所有联邦机构立即停止使用其技术[2] - 在xAI与军方达成协议之前，Anthropic是唯一获批准用于机密用途的AI开发商[3] - 五角大楼负责人AI主管马修·约翰逊辞职，部分原因是他担心在国防部大力扩展AI能力的过程中，安全与治理已被置于次要位置[6] - 拜登政府执政期间，五角大楼下属的首席数字与AI办公室曾拒绝使用Grok，担忧包括训练数据来源难以追踪、未能遵循联邦政府在负责任人工智能方面的标准，且安全防护措施薄弱[10] xAI的进展与军方合作 - 美国国防部同意允许xAI的聊天机器人Grok在机密环境中使用，使得xAI成为美国一些最敏感、最机密行动的核心参与者[1] - xAI通过去年7月与五角大楼AI办公室签订的一份合同，成功在五角大楼站稳了脚跟，该合同价值高达2亿美元[8] - xAI对Grok更为宽松的控制，以及马斯克在言论自由上的绝对主义立场，使其成为对五角大楼更具吸引力的选择[3] - 美国官员已认定，Grok在模仿对手行为方面表现出色，这在兵棋推演等场景中有用[11] - 五角大楼发言人表示，该部门“对美国国家级顶尖AI公司之一的xAI的加入感到兴奋，并期待着在不久的将来将Grok部署到其官方AI平台GenAI.mil上”[7] 其他主要AI公司的立场与处境 - Anthropic的使用准则禁止将Claude用于助长暴力、开发武器或实施监控，并且该公司拒绝让军方在所有合法场景下使用其模型[8] - 上个月，在美国军方抓捕委内瑞拉前总统马杜罗的行动中，Anthropic的Claude被投入使用，这加剧了该公司与五角大楼之间的紧张争端[7] - OpenAI CEO表示，公司正在与国防部合作，探讨能否在保持与Anthropic相同的安全防护措施的前提下，将其模型用于机密环境[9] - 谷歌和OpenAI的模型获准用于非机密环境，但不能用于机密活动[8] - AI及安全分析人士表示，直到最近，军方还更倾向于使用Claude而非Grok，因为业内许多人认为前者是更可靠的模型[9] 具体安全事件与应对 - 去年12月底至今年1月初，Grok正因为允许对儿童照片等图像进行性化编辑而备受抨击，美国政府官员认为这一问题凸显了Grok可能被恶意行为者利用的风险[4] - 马斯克在今年1月宣布，公司将把图像生成和编辑工具的使用权限限制在付费用户范围内[5] - xAI的一位高管告知白宫幕僚长，公司正在努力解决导致Grok过度顺从的安全问题[4] - 供政府使用的Grok平台与公共平台是分开的[4] - 总务管理局内一个研究AI的团队，已将指出Grok安全问题的报告分发给了该机构的高层官员[6]