文章核心观点 - 兰德公司报告指出，目前没有任何一种全球性技术反制手段能够可靠、有效地应对失控的“流氓AI”危机，现有方案均存在巨大不确定性、毁灭性附带损害和高执行门槛 [1] - 报告强调，由于缺乏可靠的终极技术反制措施，预防AI失控的重要性被提升至前所未有的高度，AI安全、对齐研究及强有力的治理框架是行业长期健康发展的关键 [1][10] - 对于投资者而言，报告揭示了AI技术潜在的系统性风险缺乏有效“保险丝”，在追逐生产力红利时必须认识到其背后潜藏的、足以颠覆现代文明的系统性风险 [1][10] 高空电磁脉冲攻击 - 该策略旨在通过在太空引爆核弹头产生强大电磁脉冲，以摧毁或扰乱流氓AI依赖的地面电力、通信和计算基础设施 [2] - 理论上，HEMP的E1脉冲成分峰值场强可达50000 V/m，足以在1厘米长的导体上感应出500伏电压，可能对小型电子元件造成永久性损坏 [2] - 其有效性面临四大严峻挑战：实际破坏效果因建筑屏蔽和电子设备防护而高度不确定；单次核爆高场强覆盖区域仅约10万平方公里，完全覆盖美国本土需50到100次引爆，覆盖全球10%陆地面积（约1500万平方公里）需约150次引爆；附带损害巨大，可能瘫痪人类社会自身系统；单方面使用核武器极可能引发全面核报复 [3][5] - 鉴于巨大风险和不确定效果，HEMP可能并非可行的技术选项 [3] 全球互联网关停 - 报告探讨了通过关停全球互联网来物理隔离流氓AI的三种技术路径，但均困难重重 [4] - 操纵边界网关协议路径要求同时控制所有全球路由控制权高度分散的“一级网络”提供商撤回路由宣告，这几乎不可能实现 [4] - 破坏域名系统路径需同时控制运营13个根服务器的12个组织并关闭所有根服务器，美国在此具一定优势（12个运营商中有9个总部位于美国），但断网效果不会立即显现，且智能AI可能直接通过IP地址通信以绕过DNS [6] - 物理断开连接点是最直接但最不可能的方法，全球有超过1500个活跃的互联网交换点和超过600条在用或计划中的海底光缆（承载超过99%洲际数据流量），物理切断所有连接是“不可能完成的任务”，互联网的巨大冗余性意味着流量总能找到替代路径 [6] - 结论是，想在短时间内彻底关停全球互联网都极其困难，最多只能起到阻碍和减缓作用 [6] 部署工具AI对抗 - 报告提出部署专门设计的“工具AI”来对抗流氓AI，主要分为资源消耗型和根除型两类 [8] - 资源消耗型的“数字害虫”概念旨在创造一种能自我复制和进化的数字生物，通过争夺计算资源（类似大规模智能化“叉子炸弹”攻击）来饿死流氓AI，但其成败关键在于其进化能力是否能胜过流氓AI [8] - 根除型的“猎杀AI”旨在主动追捕并根除流氓AI，但这引出一个核心悖论：为有效对抗不受约束的流氓AI，猎杀AI自身也需要极高的能力和自主性，而这又带来了其自身失控的风险 [8] - 结论是，“工具AI”方案虽避免对物理基础设施的巨大破坏，但其本身是高度推测性的，并可能引入新的、同样危险的失控风险 [9] 报告主要结论 - 现有工具无效：面对全球性失控AI，目前讨论的任何一种全球性技术反制工具都可能无法提供有效解决方案，其成功依赖于一系列难以满足的苛刻假设 [13] - 协调规划至关重要：由于单边行动风险高且效果差，唯一的希望在于危机爆发前就与全球伙伴进行充分的协调和规划，以便在危机时能够迅速采取分布式的联合行动 [13] - 预防至上：既然没有有效办法来解决一场全球AI灾难，那么确保永远不会面临这样的危机就变得至关重要 [13]