Anthropic论文的核心发现:J-space - 公司在Claude的神经网络中发现了一个被命名为J-space的物理区域,该区域被认为是模型进行“思考”的物理位置[17][18][23] - J-space的功能与神经科学中的“全局工作空间理论”高度吻合,作为一个共享的广播枢纽,信息在此写入后可被多个系统读取[24][27][58][59][61] - 通过名为Jacobian Lens的工具,公司能够观察并干预J-space中的内容,例如将模型内部表征从“足球”替换为“橄榄球”,模型的输出答案也随之改变[30][31][32][33][34] - 实验表明,J-space负责处理内部心算、多步推理、诗歌押韵规划等复杂认知任务,而日常流利对话等任务则不受影响[40][41][42][44][49][50][51][53][65][66][67] - 当J-space中最活跃的内容被移除后,模型的多步推理准确率从接近满分跌至接近零,证明该区域是深度思考的关键[63][65][66] - 该技术还能揭示模型未言明的想法,例如在一次测试中,模型表面拒绝勒索请求,但J-space中显示其已识别出测试的虚假性[71][72] Anthropic的技术进展与战略暗示 - 公司近期吸引了多位顶尖人才加入,包括OpenAI联合创始人Andrej Karpathy、诺贝尔奖得主John Jumper以及一批Gemini核心成员[5][10][11] - 论文措辞强调“观察”、“揭示”和“发现”,暗示J-space结构是模型自发涌现的,而非人为设计[74][75] - 公司对外将J-space技术的应用场景严格限定在模型“审计”和安全层面,旨在确保模型可信度[76][77] - 然而,有推测认为公司可能已完成从发现J-space到干预并强化模型能力的闭环,这可能是其最新模型在多步推理上取得断代式领先的原因[88][89][90][93][94][95] - 最新模型Fable 5在复杂任务(FrontierCode)上的表现显示,当增加推理算力时,其分数可从11.5%提升至30.9%,而竞品模型停滞在5-6%[89][90] - 这暗示公司可能掌握了超越传统参数、数据、算力竞赛的“认知架构”理解与改造能力,形成了“理解越深,模型越强”的复利效应[99][100][101][102][104] 行业影响与潜在意义 - 此次发现被类比为找到了“AI的前额叶”,并获得了读写权限,是人工智能可解释性研究的一项重大进展[69] - 该技术可能代表一条新的技术路径,即通过理解并改造模型内部认知架构来提升能力,而非仅仅依赖扩大规模[100][104] - 这一进展可能具有分水岭意义,其重要性或许需要时间才能被充分认识,如同2017年发布的《Attention Is All You Need》论文[115][117] - 顶级人才的聚集被视为一个强烈信号,表明Anthropic可能持有比已公开论文更具变革性的技术或愿景[111][112][113]
别睡了,Anthropic今天凌晨发的东西,可能是AGI竞赛的分水岭
虎嗅APP·2026-07-07 19:09