Workflow
系统2思维
icon
搜索文档
大历史中的超能力|荐书
腾讯研究院· 2025-07-18 16:18
万维钢 科学作家,得到App精英日课专栏作者 到了距今大约1亿年前,犬齿兽的某一个分支的后代,演化成了哺乳动物。其他都不论,它有个最新的 特点是大脑中长出了新皮质。这给它带来了"超能力"。 你现在待在洞穴里,外面视线可及的范围内有个猎物,你很想出击。 爬行动物面对这种局面都是感觉不错就出手,万一中间遇到什么事儿就临时见招拆招,但我们的哺乳动 物祖先不会如此。它的"超能力"是想象和短期计划。 等会儿我冲刺,猎物会往哪个方向跑?我追过去会不会遭遇恐龙?如果恐龙来了我该往哪跑?我逃生的 机会大不大? 如果你能暂时摆脱忙碌的日常生活和钩心斗角的地缘政治,有时间想一点儿更大的事儿,我先给你讲个 故事。 地球上一切哺乳动物的祖先叫犬齿兽(cynodont),大约最早出现在距今2.6亿年前。它的身体就像今天 的老鼠一样小,力量和速度都一般,不可能跟当时地球的主宰恐龙争锋,所以生活很低调,平时只能躲 在洞穴里。 但犬齿兽也有自身的优势:它是温血动物。这意味着晚上气温比较低的时候,它仍然可以灵活行动。对 比之下,恐龙作为爬行动物,体温会和气温一起降低,身体随之变得僵硬而难以活动。所以犬齿兽拥有 夜晚。但温血的缺点也很明显,那就 ...
新范式来了!新能量模型打破Transformer++扩展上限,训练扩展率快35%
机器之心· 2025-07-07 12:48
机器之心报道 机器之心编辑部 是否可以在不依赖额外监督的前提下,仅通过无监督学习让模型学会思考? 答案有了。 在心理学领域,人类思维通常被划分为两种不同类型:系统 1(快速思维)和系统 2(慢速思维)。 当面对复杂问题如数学运算、多步骤推理等任务时,系统 2 思维(System 2 Thinking)显得至关重要。然而,当前的大语言模型可能在适合系统 1 思维的任务上表 现良好,但在需要系统 2 思维能力的任务方面仍存在明显不足。 因此,很多研究者开始对系统 2 思维展开研究,这推动了 o1、R1、Grok3 和 Claude 3.7 Sonnet 等基础模型的崛起。 但据公开训练资料(特别是开源模型 R1)显示,这些模型采用的强化学习训练方法仅适用于答案可通过规则化奖励验证的领域(如数学和编程),这种局限性导 致其适用范围狭窄。 另一方面与人类系统 2 思维类似的推理时计算,近期成为提升模型性能的热门方法。 然而,现有方法存在三大局限性:模态依赖性(如仅适用于文本)、问题依赖性(如局限于数学 / 编程等可验证领域),或需要额外监督训练(如验证器或可验证 奖励机制)。 因此,来自弗吉尼亚大学、亚马逊 GenA ...