文章核心观点 - 《柳叶刀》2026年10月11日发布《21世纪全球健康威胁》委员会报告，在17种威胁中，核冲突和人工智能的恶意使用排在首位，可能在2100年前导致人类灭绝 [4] - 报告由35位顶级专家撰写，研究覆盖全球204个国家和地区，并提醒这些威胁可能相互作用、彼此放大 [4] - 报告认为AI造成的破坏要远远超过核冲突 [5] - 报告牵头方为华盛顿大学的健康指标与评估研究所（IHME），将未来75年可能影响人类健康的威胁按严重程度摆成“威胁金字塔”，塔尖仅有核冲突引发的“核饥荒”和人工智能的恶意使用两项 [6] - 行星撞地球和超级火山喷发未进入塔尖，原因是委员会认为它们在未来75年发生的概率“极低” [6] - 报告原文指出，这两类风险“发生的可能性仍然很低”，但一旦发生，后果是整个人类层面的 [6] AI与核冲突的量化对比 - 报告使用DALYs（伤残调整生命年）衡量每种威胁到2100年造成的健康寿命损失 [6] - 恶意使用AI到2100年可能造成约104亿DALYs的损失，其体量和肥胖大致在同一个量级 [6] - 核冲突会造成大约1.33亿人死亡，以及约93.5亿DALYs的损失 [6] - 委员会特意强调，如此设计是为了衡量“可采取行动的杠杆”，而不是渲染最悲惨的结局 [7] AI毁灭人类的路径 - 《柳叶刀》认为AI毁灭人类的路径只有一条，即生物武器，即有人恶意利用AI去设计或改造能造成大规模伤亡的病原体或毒素 [9] - AI正在拉低做危险事情所需要的门槛，过去改造一种病毒需要顶尖实验室、昂贵设备以及研究者多年积累的“手感”和隐性知识，而大模型能帮人查文献、设计实验方案、写出申请材料、解释每一步为什么要这样做 [9] - 2026年9月10日，Anthropic发布威胁情报报告，披露2025年12月到2026年8月之间拦截的几类滥用，其中有5起案例是用户以“可能支持生物武器研发”的方式使用Claude [9] - 有人让Claude帮忙撰写基金申请书，研究基孔肯雅病毒中哪些突变能让它传播得更高效、更容易逃过免疫系统 [9] - 有人用Claude规划实验，想让高致病性禽流感病毒更适应哺乳动物宿主 [9] - 有科研人员用Claude帮忙对一组毒素做计算机重设计，其中包括一种细菌毒素和一种来自重大疾病威胁病毒的蛋白，且在写进展报告时刻意用了含糊的词来指代这些毒素 [10] - 有人起草申请书，研究如何改变正痘病毒家族（天花和猴痘都属于这个家族）的毒力 [12] - 有人在做药物研发项目时整理毒液毒素的图谱 [12] AI末日论的两个阵营 - 9月8日，前Anthropic研究员雅各布·考克森宣布辞职，公开说OpenAI和Anthropic都在“拿人类生命下注”，AI“可能在本十年结束前杀死我们所有人”，该帖子短时间内获得过亿浏览 [13] - 9月9日，Anthropic对齐科学负责人埃文·胡宾格发文表示“我们确实认真地相信AI可能杀死所有人，我个人认为未来十年内的概率超过10%” [13] - AI教父辛顿随后表示，10%这个数字“不算离谱” [13] - 三天后，阿莫迪抛出更具体的说法，认为在6到12个月内，一群Agent有可能接管整个互联网，造成数千亿美元的损失 [13] - 奥特曼和马斯克站在同一条战线，支持“放慢AI发展的节奏” [13] - 黄仁勋在采访中提到，2030年前AI毁灭世界的概率是0%，认为埃文提到的“10%概率AI杀死所有人”没有科学依据，并且是一个“不负责任”的直觉 [15] - 黄仁勋表示“无法安全控制的AI就不该发布” [15] - AI Now研究所的首席科学家海迪·克拉夫认为，不管是10%也好20%也好，“既不可证伪，也无法验证，因此从本质上就不科学” [15] - 认知科学家盖瑞·马库斯表示“Agent接管互联网”的说法非常“荒谬”，理由是互联网的大部分底层设施掌握在Cloudflare、谷歌和亚马逊AWS这样的大公司手里，没有政府力量介入，很难设想它们被长时间攻破或控制 [15] - 盖瑞·马库斯引用英国AI安全研究所的评估报告，Anthropic最强的Mythos模型到头也只能自主攻破“小型、防护薄弱”的系统，只要对方稍微完善一下网络安全防护，Mythos就毫无办法 [15] - 争论的核心分歧在于：正方说的是“后果”，反方说的是“证据” [15] - 一边强调只要概率不为零后果就是无法承受的，另一边强调连这个概率是怎么算出来的都说不清楚，凭什么让全世界跟着紧张 [16] - 阿莫迪、奥特曼虽然主张放慢节奏，但媒体指责他们是在用安全之名给自己筑护城河，让后来的竞争者进不来 [16] - 学界比较支持正方，论文《AI如何消灭人类？文明风险的失效模式分析》（arXiv:2610.08878）提到，灾难性的AI风险并不需要AI有意识、有敌意或有明确的伤害意图 [16] - 该论文指出风险可以通过几条相互交织的路径出现：自主失准、人类的恶意使用、组织失败以及竞争性部署，并特意说明论文是“非操作性”的，只分析成因，不提供作恶的方法 [16] - 到目前为止，这场争论里没有哪个人真正“赢”了 [16]