How to restrict access while still allowing users to share threat information is a major challenge facing AI companies. ...

教宗发布关于人工智能的通谕 - 教宗利奥十四世将于5月25日在梵蒂冈发布其任内首份通谕《Magnifica humanitas》，核心议题是“在人工智能时代保护人类个体” [1] - 通谕发布时将有多位演讲者共同出席，包括红衣主教、学者以及人工智能公司Anthropic的联合创始人克里斯·奥拉 [2] 教宗对人工智能的观点 - 教宗利奥十四世曾批评人工智能技术，警告其“无法取代人类智能”，且不能判断对错 [2] - 在罗马大学的一次演讲中，教宗警告在战争中使用人工智能技术可能导致世界陷入“毁灭的螺旋”，并呼吁对军事领域的人工智能进行更好的监管，以确保人类不推卸责任并避免加剧冲突悲剧 [5] - 梵蒂冈在通谕发布前成立了一个人工智能研究小组，以审查该技术对人类的潜在影响及教会对人类尊严的关切 [3] Anthropic公司及其联合创始人 - 克里斯·奥拉是人工智能巨头Anthropic的联合创始人，该公司成立于2021年，由包括他在内的七位前OpenAI员工创立，奥拉担任首席研究员 [2] - 根据《福布斯》估计，克里斯·奥拉的净资产为70亿美元，在全球富豪榜上排名第546位 [6] - 奥拉曾批评特朗普政府，承认自己通常不参与政治，但认为政府的移民突袭行动“令人震惊” [4] Anthropic与特朗普政府的紧张关系 - Anthropic首席执行官达里奥·阿莫代在2月的一篇博客文章中表示，反对国防部将其技术用于大规模国内监控和全自主武器，此举招致特朗普的迅速谴责，特朗普抨击Anthropic为“激进左翼、觉醒的公司”，并命令联邦机构停止使用其技术 [4] - 国防部长皮特·赫格塞斯表示将把Anthropic指定为“国家安全的供应链风险”，导致该人工智能公司起诉政府 [4] - 五角大楼首席技术官埃米尔·迈克尔本月早些时候表示，Anthropic仍被视为国家安全风险，但其先进的Mythos技术是“一个单独的国家安全事件”，政府成员已就该公司强大的新模型与其进行了会面 [4] - 据《政客》4月下旬报道，政府正试图与Anthropic达成“停火”，该报道引用了六位未具名的科技游说者和政策专家的话，其中两人与白宫有联系 [4] 梵蒂冈与特朗普政府的紧张关系 - 特朗普政府日益抨击教宗利奥十四世，特朗普在4月的一篇Truth Social帖子中称利奥“在犯罪问题上软弱，对外交政策不利”，并多次错误指控教宗支持伊朗拥有核武器的权利 [3] - 副总统JD·万斯（一位皈依的天主教徒）警告教宗在谈论神学事务时要“小心”，他引用了教宗的反战言论，这些言论招致了美国天主教主教会议一个委员会的谴责，该委员会表示教宗的言论维护了教会关于战争仅在“自卫且所有和平努力失败后”才合理的长期教义 [3]

行业背景与挑战 - 首席信息安全官已成为企业内压力最大的职位之一 [1] - 今年春季，Anthropic的Mythos和OpenAI的GPT-5.5模型引发了对攻击者利用先进AI模型破解全球系统的担忧浪潮，加剧了网络安全行业已有的问题 [1] - 与以往相比，更多公司使用外部代码库，如果这些代码包存在漏洞，可能使黑客攻击更容易扩散 [2] - 去年，OpenAI和Anthropic的编码工具兴起，帮助开发者快速生成数百万行新代码，但这些工具容易产生开发者未能发现的错误和漏洞，使研究人员、公司和政府高度警惕 [2] - 网络安全初创公司Semgrep的CEO表示，所有人都预测今年黑客攻击会大幅增加 [3] - 网络安全初创公司Socket的CEO指出，开发者审查新代码不够仔细，加上使用外部代码库来补充公司内部代码，创造了危险的“完美风暴” [5] - 开源代码库通常维护良好，遵循透明度有助于消除漏洞的原则，但现在许多公司使用这些代码库中的代码，AI工具也经常从中提取，导致单一安全漏洞可能危及许多公司 [6] - 所有软件的漏洞暴露面正在迅速扩大 [6] AI模型带来的具体风险与影响 - Anthropic的Mythos模型发现了数千个严重的安全漏洞，其中一些漏洞被人类忽视了十多年，同时该模型还能利用“每个主要操作系统和每个主要网络浏览器” [7] - Anthropic实验室的一些工程师曾利用该技术在一个晚上就找到了可行的黑客方法 [7] - 公司决定不向受信任合作伙伴群体之外发布该模型，让防御者获得先机 [8] - Mythos的发布声明明确指出：“最终，安全社区将变得非常困难” [8] - Anthropic关于制造了一个过于危险而不能立即发布的模型的警告在全球引起反响，特朗普政府开始讨论审查新AI模型的系统 [9] - 英国政府官员也发布了一封关于Mythos的公开信，警告企业董事会应讨论网络风险 [9] - 企业界的安全社区迅速采取行动，要么寻求获得Mythos的访问权限，要么竞相测试它，一些早期评论证实了Anthropic的担忧 [9] - Mozilla团队表示，Mythos帮助他们发现并修复的安全漏洞比前一年更多 [10] - 安全公司Calif的研究人员表示，Mythos帮助他们识别了MacOS中的漏洞，将其关联起来，并最终找到了一种破坏部分以安全著称技术的方法 [10] - 网络安全巨头如CrowdStrike、Palo Alto Networks和Fortinet最近都发布了警告前沿AI潜在危险的公告 [10] 行业应对与合作 - OpenAI发言人指出，最近一系列以网络安全为重点的公告和发布旨在让AI改进帮助防御者更快速有效地工作，公司推出了“Daybreak”页面让开发者请求安全扫描 [3] - Anthropic也正处于网络安全推广期 [3] - 网络安全初创公司Semgrep的CEO表示，最近的威胁促使他的公司扫描其代码库以查找漏洞，团队发现了两个漏洞，均由Anthropic的Claude产品引入 [4] - 这是AI编码热潮的一个缺点，如果公司生成的代码行数是原来的10倍，那么应该预期漏洞数量也会是10倍，或者更糟 [4] - 安全团队已经在使用新的AI模型来搜索漏洞，同时也担心攻击者获得类似强度模型的访问权限 [7] - 安全初创公司Snyk的新兴技术与解决方案办公室负责人表示，在Mythos和OpenAI的GPT-5.5叠加在其他安全问题上之后，“如果你今天是一名CISO，你正生活在我称之为‘AI迷雾’的环境中” [11] - Snyk公司，与Socket和Semgrep一样，已与OpenAI签署合作伙伴关系，试图抵御担忧的风暴 [11] - Anthropic也在孵化这些合作伙伴关系，让Snyk等公司有机会试用先进技术 [11] - Anthropic前沿红队负责人最近在X上写道，他的网络安全团队正在“以我们负责任的最快速度将Mythos带给防御者” [12] - 安全始终是一项团队运动，模型公司需要理解安全工作的方式，并且他们正在这样做 [12]

公司核心动态 - 人工智能初创公司Anthropic将与其最新的Mythos模型揭示的全球金融系统网络漏洞，与金融稳定委员会成员进行讨论[1] 行业影响与关注 - 人工智能技术发展已引起全球金融监管机构对潜在系统性风险的关注[1]