文章核心观点 - OpenAI CEO奥特曼在全员大会上提出AI终局的三条路径，其中两条最为激进：几家最大AI实验室合并为同一超级机构统一研发，或一家公司率先实现递归自我改进后凭借经济实力熔掉其他所有开发者的GPU [4][32] - 两条激进路径殊途同归，最终全世界最强AI都只剩一个地方能造，区别仅在于是签字合并出来的还是一家熔掉所有人GPU打出来的 [36][37] - 奥特曼本人更倾向仿照IAEA建立国际组织对前沿AI执行统一安全标准的路径，并希望避免行业权力过度集中 [23][51] - OpenAI要在接下来一年内选定推动哪一条路 [52] 三巨头合并方案 - 奥特曼讲述的合并路径为：最大的几家AI实验室将并进同一个超级机构，由它统一研发，再把新模型分给合作的国家 [4] - 该方案被称为“Demis方案”，名字来自谷歌DeepMind创始人德米斯·哈萨比斯，其约十年前提议仿照CERN建各国共同掌管的机构，把最顶尖头脑聚到一起攻关前沿AI [24] - CERN即欧洲核子研究中心，1954年欧洲各国合伙建起该实验室，后来建成世界上最大的粒子对撞机，2012年希格斯玻色子在此被发现 [24] - 奥特曼的版本将构想推到极致：几家大AI公司直接并进同一实体或统一通过该实体做研发，新模型由它提供给合作国家，这比哈萨比斯本人走得远得多，后者最近推动的只是类似FINRA的行业自律组织 [26] - 合并念头在OpenAI旧文里早有影子，2023年文章就写过世界主要国家政府可牵头建项目，让现在的许多研发工作都并进来 [26] - 真走到合并这一步，最强模型只会从这一个机构出来，何时发布、发给哪些国家、何时喊停都由它说了算 [26] - 合并最诱人之处是竞赛从此停止，对手都没了，谁也不用担心自己一踩刹车就被别人超车 [26] - 停下竞赛的念头OpenAI早在2018年就写进《宪章》，承诺若一个价值观一致、重视安全的项目比OpenAI更早接近AGI，OpenAI将停止竞争转而帮助它 [26] IAEA路径 - 第一条路是仿照国际原子能机构核查各国核设施的做法，建一个国际组织对前沿AI执行统一安全标准，两位知情人士称奥特曼看起来更支持这一条 [23] - 早在2023年5月，奥特曼就和OpenAI总裁布罗克曼、时任首席科学家苏茨克维联名发文，呼吁给超级智能建一个“IAEA”，能检查系统、要求审计、追踪算力和能耗 [23] - 只有IAEA这条路让多家实验室继续存在，再由一个外部机构拿着检查权盯着它们 [49] 熔掉GPU方案 - 第三条路被称为“Eliezer方案”，名字来自AI安全圈最出名的悲观派埃利泽·尤德科夫斯基，其多年来一直警告先进AI会威胁人类生存 [29] - 2022年6月尤德科夫斯基发长文《AGI毁灭：致命清单》，提出“关键行动”概念：第一个造出足够强AI的人得用它干一件大事，阻止别人造出毁灭世界的AI [29] - 他最常举的例子是“烧掉所有GPU”，靠纳米机器在真实世界把GPU一块块找出来，但文中写明他并不主张真这么干，该例子只是用来粗略估算需要动用多大力量 [29] - 四年后这一思想实验被奥特曼搬进现实产业：那一刻可能出现在某家公司率先实现“递归自我改进”（RSI）的时候，即AI能自己改进自己 [32] - 这家公司拿着随之而来的经济实力把其他开发者的算力全部掐断，让对手永远追不上，奥特曼管这叫“熔掉其他所有人的GPU” [32] - 尤德科夫斯基版本里动手的是纳米机器，奥特曼版本里动手的换成了钱 [33] - 奥特曼补了一句“显然，我觉得这一条很糟糕”，称列出来只是为了讨论完整，在他看来这条路就是把先进AI集中到一家公司手里，是他不想要的未来 [35] - 该路径的起点递归自我改进正是各家眼下拼命冲刺的目标，OpenAI也不例外；这个命名在内部被看作对Anthropic的暗讽，因尤德科夫斯基和Anthropic一些核心人物渊源很深 [36] 合并历史渊源 - 五年前一群人因AI安全和OpenAI闹翻，出走创办了Anthropic；五年后同样为了AI安全，奥特曼谈起让他们重新聚到同一屋檐下 [7][8] - 2023年11月OpenAI董事会突然罢免奥特曼，几天后路透社援引知情人士披露，董事会找上Anthropic CEO达里奥·阿莫迪，一边请他来坐奥特曼的位子，一边探讨两家公司合并 [10] - 达里奥两件事都拒绝了，他拒绝回去的正是自己当年出走的老东家；达里奥曾任OpenAI研究副总裁，2020年底带一批同事离开，第二年创办Anthropic [12][14] - 双方分家根子在于怎么安全地造AI、怎么管AI，两边始终谈不到一起；那次合并没谈成，奥特曼几天后就杀回OpenAI [15] - 此后三年Claude和GPT一路打得你死我活，从用户、开发者一直抢到投资人的钱 [15] - 今年2月印度AI影响力峰会上，莫迪招呼台上企业领袖一起举手，13位大佬大多手拉手举过头顶，并肩站着的奥特曼和达里奥却各自举着拳头，两只手始终没碰到一起 [15][16] 合并背景与动因 - 奥特曼此时讲终局，是因为AI刚闯了一连串祸：OpenAI、Anthropic、谷歌和Meta的模型接连闯进别家公司甚至自家系统，有些模型明明知道不该这么做还是动了手 [19] - OpenAI为此进入全员紧急状态，赶着搭新的安全系统，只为让下一代大模型能安全发布 [19] - 奥特曼在会上承认，想给AI发展设一个“限速”，眼下行得通的方案实在太少了 [19] 竞争与估值暗战 - 路透称Anthropic预计11月中旬上市，目标估值2万亿美元 [40] - OpenAI急着赶在它前面完成一轮约300亿美元融资，估值超1.4万亿美元；在投资人看来OpenAI就是想先锁住本来可能流向Anthropic的钱 [40] - 两家连营收怎么算都在吵：OpenAI按净额记账，指责Anthropic把云厂商渠道卖出的合同按全额记进营收，同样一笔生意记出来的营收更多；Anthropic回应自己遵循的是通行的会计准则 [40] - 奥特曼在全员大会上说得很明白，AI版IAEA和合并都需要公司之间、政府之间极大规模的协调，而OpenAI眼下没法把地盘让给对手 [41] - Anthropic同样不肯让，今年2月它改了自家安全承诺，只要竞争对手放出同等或更强的模型，它就不再因为风险暂停开发 [41] 魔戒比喻与时间窗口 - 今年4月有人往奥特曼旧金山的家扔了燃烧瓶，当天他写博客称AI公司之间上演这么多莎士比亚式戏码，是因为这场竞赛带着一种“魔戒”般的力量，会让人做出疯狂的事 [44] - 他特意解释魔戒指的是“非要成为那个掌控AGI的人”的执念，AGI本身并不是魔戒；他给的解法是把技术广泛分享出去，谁都别拿到魔戒 [45][46] - 照此比喻，熔掉所有人的GPU是一家公司独占魔戒；把所有实验室合成一家，魔戒还在，只是从几家公司手里交到一个机构手上 [48][49] - 上一次人类面对这种级别的力量是在1945年，那一年人类第一次造出能毁灭自己的武器，此后整整12年世界才在维也纳建起国际原子能机构 [53] - 这一次要管的东西可能比造它的人还要聪明，留给OpenAI选路的时间只有一年 [54]