事件概述 - 美国财政部长与美联储主席本周初召集华尔街主要银行CEO会议 警告其注意与Anthropic公司新人工智能模型相关的网络安全风险 [1] - 会议参与者包括花旗集团、美国银行、富国银行、摩根士丹利和高盛集团的高管 [2] - 会议讨论焦点是Anthropic的新AI模型Mythos 该模型因其先进的网络安全能力引发广泛担忧 [2] 会议目的与风险关切 - 会议旨在确保银行理解能够识别并利用跨操作系统和网络浏览器软件漏洞的系统所带来的风险 [3] - 官方鼓励金融机构加强防御 以应对可能针对金融基础设施的AI辅助网络攻击 [3] - 安全研究人员警告 能够自动发现漏洞的工具若被滥用 可能同时加速防御性安全工作和恶意黑客攻击 [3] Anthropic的Mythos模型能力 - Mythos模型相关信息于3月首次在网上出现 源于系统草案材料的泄露 该公司称这是其迄今为止能力最强的AI模型 [4] - 在测试中 该系统据称发现了数千个先前未知的软件漏洞 包括主要操作系统和网络浏览器中的零日漏洞 [4] - 其漏洞发现能力并非有意训练的产物 而是源于模型在编码、推理和自主性方面更广泛改进后自然涌现的 [5] - 公司指出 “使该模型在修补漏洞方面显著更有效的改进 同样使其在利用漏洞方面也显著更有效” [5] Anthropic的应对措施 - 鉴于其强大能力 Anthropic已将模型访问权限限制在少数网络安全组织范围内 [6] - 公司表示 “鉴于其能力的强度 我们在发布方式上非常审慎” 并遵循行业标准做法 与一小部分早期访问客户合作测试模型 [6] - Anthropic认为该模型是一个阶跃式变化 是其迄今为止构建的能力最强的模型 [6] - 为应对风险 Anthropic正在通过“玻璃翼项目”测试Mythos 该项目是与主要技术和网络安全公司的合作 旨在利用该模型在攻击者利用之前识别并修补关键软件中的漏洞 [6]