美国政府寻求接触AI模型 - 美国财政部希望获取Anthropic公司Mythos AI模型的访问权限 其技术团队希望仔细研究该模型以寻找漏洞 [1][2] - 财政部首席信息官Sam Corcos希望最早在本周内获得访问权限 该模型目前仅向有限数量的机构开放 [2] - 财政部网络安全团队上周已就该技术进行讨论 并指示员工准备好应对强大AI系统带来的威胁 [3] 行业对AI网络风险的担忧与行动 - 美国财政部长和美联储主席上周召集华尔街领导人举行紧急会议 原因是担心Mythos将带来网络威胁加剧的时代 [3] - Anthropic公司已警告 如果公司不针对自身系统进行测试并建立防御 该模型可能具备发动网络攻击的能力 [4] - 金融业面临的挑战是双重的 一方面需理解并量化AI驱动漏洞发现带来的威胁 另一方面需调整其安全架构、流程和治理模型以适应威胁演变速度急剧加快的环境 [7] Anthropic公司与政府的关系及争议 - 尽管五角大楼今年早些时候将Anthropic公司认定为供应链风险 但政府仍在寻求接触其技术 [4] - 该认定源于双方就AI技术可能被军方使用方式产生的争议 国防部给予Anthropic六个月时间将AI服务移交给另一提供商 [5] - Anthropic公司正在联邦法院对该认定提出异议 [5] AI对金融稳定的潜在影响 - AI驱动的漏洞发现的兴起 可能挑战一些关于金融稳定的关键假设 包括网络风险次于流动性危机等经济因素的观念 [6] - 白宫和主要银行的介入表明 最高层正严肃对待这一转变 但认知仅是第一步 真正的考验在于行业能否迅速行动以利用AI的防御潜力同时减轻其风险 [8] - 在攻击者与防御者的竞赛中 速度一直至关重要 随着前沿AI的出现 速度可能成为决定性因素 [8]