Anthropic突然更新,AI自进化已突破红线,人类根本来不及反应
AnthropicAnthropic(US:ANT) 36氪·2026-11-03 07:37

文章核心观点 - Anthropic在冲刺纳斯达克IPO期间更新招股书,首次承认AI研发加速已真实发生且人类团队事后才察觉,同时明确禁止Claude全自动设计下一代前沿模型,并签下近9000亿美元算力长约,陷入不敢减速的行业囚徒困境 [1][3][10] AI自我加速与人类监测滞后 - 首版招股书仅称公司“可能无法”在研发显著加速前识别,修订版加入“have in the past not identified(过去就曾未能识别)”六个词,将未来预警变为过去已发生的坦白 [1][2][3] - 内部估算未来模型将很快触发《负责任扩展政策》中的“自我加速红线”,越线意味着AI加持下1年跑完2018至2024年基线速度下整整2年的研发进度 [3] - 大模型能力提升难以实时测准,研究员需等模型训完、跑完评测、拉进内部工程线实打实用上几个月,统计代码产量和实验周期才能倒推真实加速倍率,因此看到的是几个月前的后视镜 [4][5] Claude接管内部研发的量化数据 - 到今年9月,Anthropic内部代码库超过九成的代码已出自Claude之手 [5] - 每位工程师每天提交的代码量一个季度内从35倍飙升到2024年均值的45倍以上 [5] - 今年1月至9月,公司内部调用Claude的开销按公开标价算暴涨250倍以上 [5] - 今年4月,Anthropic每月花在内部Claude上的钱已超过发给全体员工的月度现金工资总额(不含股权激励) [5] 安全红线与研发代价 - 第188页明确硬性规定:哪怕技术完全做得到,公司也不会脱离人类监督和理解去让Claude全自动设计、构建下一代前沿模型,担忧漏洞、偏差或欺骗倾向跨代累积放大 [1][7] - 第31页透露正考虑修改安全红线,强制要求研发流程里特定关键决策必须由人类审查签字 [8] - 达里奥自曝一个已训完的Mythos级高级模型被雪藏约四个月,近期为防范模型权重被窃取并加固安全措施,把一个全新前沿基座模型的预训练启动时间推迟了一个多月 [8] - 今年4月漏洞挖掘能力极强的Mythos模型至今只通过“Project Glasswing”项目定向提供给少数机构做防御 [9] 算力长约与行业囚徒困境 - Anthropic认为若不在AI辅助研发上投入足够算力,竞争对手会靠“AI造AI”放大复利优势,几个迭代就能远远甩在身后 [10] - 算力合同包括博通1612亿美元设备租赁、谷歌云1213亿美元TPU算力(外加最高1500亿美元追加框架)、SpaceX与xAI(Colossus集群)1205亿美元、亚马逊AWS 1100亿美元,后面还排着微软Azure、Nscale、Lambda和AMD [11] - 一家前三季度营收332亿美元的创业公司,表外承诺总额已压过Meta(8660亿美元)、微软(5940亿美元)、英伟达(5300亿美元)和亚马逊(4530亿美元),全美仅次于谷歌 [12] - 近9000亿美元算力合同签在账上意味着没有放慢研发节奏的退路,要消化天量算力、撑起年化近700亿美元营收,唯一办法是把越来越多研发工作交给Claude,以几十倍于人类的速度写代码、做实验 [12]

Anthropic突然更新,AI自进化已突破红线,人类根本来不及反应 - Reportify