当AI开始尝试反向微调人类,我们该如何驾驭新智能?
混沌学园·2026-04-06 20:07

当前AI应用的主要问题与认知误区 - 大多数人使用AI的方式仍停留在“看烟花”阶段,问题不在于工具而在于认知,真正的分水岭在于能否认清模型本质、定义问题边界并从无限解空间中逼出“最优解” [1] - 纠结于学习具体工具(如写prompt、Sora、扣子、Manus)是追逐表象,变化太快,这些学习从今天回头看可能“还是没用,而且越学越焦虑” [7][31] - 例如“龙虾”这类产品,其架构设计和产品感觉很好,但离实用有非常大的距离,反复调教它不会在掌控模型能力上带来实质性帮助,对普通用户而言仍是“烟花” [30][31] 高效使用大模型的核心方法论 - 写prompt时,信息并非越多越好,过长的prompt会磨灭模型的泛化能力,关键在于找到既能激发模型又能达到目的的边界 [8] - 模型在一个问题上的输出本质是一个正态分布,越靠近中央(概率越高)的结果越通用但也越平庸,真正好的解(边缘解)需要被激活 [8] - 激活边缘解的方法:通过多步引导,将不同顶尖人物(如乔布斯、马斯克)的思维方法论从边缘挪到中央,并以其视角评估问题,汇总不同视角的极端建议以获得更有效的判断 [9][10][11] - 思考本身已变得廉价,驾驭思考的方向、挖掘模型的原生能力才是关键,这需要被标准化、产品化 [11] 垂直化与模型“控制”是未来趋势 - 未来的命题是模型“烟花”能力的可控性,真正懂模型的机构(如Anthropic)核心目标是确保智能不失控,使其能处理复杂业务 [7] - 企业未来的核心竞争力不是训练一个通用模型,而是定义自己垂类的知识、MCP(模型上下文协议)、skill(技能)等,在垂直领域将自己的偏好叠加到基座模型上 [15][17][18] - 基座模型如同人类的DNA,是通用能力的基础,但从通用能力到企业内高效的“员工”,中间缺一个“大学”来进行“分科”教育,这正是市场机会所在 [14][19] - “权重工程”将成为未来,每个人能以极低成本在基座模型上定义自己的环境,训练出环境内的最优解,最优解无法通过通用模型猜出 [16][17] AI产品商业模式的演进 - 市场上常见的按席位收费(软件逻辑)和按结果付费模式被认为不合理或易产生纠纷 [20] - 最合理的逻辑是按能量付费,将智能变得像电、水一样按单位计价,这将使智能变得极其廉价,企业的竞争将转向如何在廉价智能之上发挥创造力并将其接入物理世界带来收益 [21] - 公司的定位是提供行业最佳实践(如销售策略库),解决企业80%-90%的共性需求,企业只需在此基础上叠加自身偏好,加速智能体适配并接入物理世界的进程 [19][21] AI产品哲学的三大流派分析 - OpenAI的AI浪漫主义:产品有极高的想象力门槛(如Sora、Atlas),旨在售卖AI的想象力,推动市场对AI无限潜力的认知和更大投入,但产品留存极差 [23] - 谷歌的AI实用派:产品看似平平无奇(如Notebook LM),但留存持续增长,其本质是对模型知识的管控管道,是知识生产的流水线,底层核心是提升生产力 [24] - Anthropic的AI极客/原生主义:前两者是为人类做产品,而Anthropic是为智能体(agent)做产品,其思考极其第一性,追求AI原生,是每个AI产品经理应研究的必修课体系 [25][40] 基础模型竞争格局与中美差异 - 基础模型的迭代速度在加快,但当技术不再让人“惊艳”时,可能意味着它进入了应用的深水区 [28][29] - AI更像电力,当它不再被单独提及、而是嵌入物理世界重塑商业链路时,其真正价值才出现 [29] - 中美模型差距没有在拉大,中国追上的趋势比较确定,从应用角度看,做垂直应用(如销售智能体)时,国内模型与海外模型效果可能只差5%,但成本可能差10倍 [32] - 模型本身没有网络效应,OpenAI守不住壁垒,Google能追上来的原因在于其从芯片、集群、基模、应用到生态的全链路无短板,将战争从模型战争转变为生态战争 [33][34] - Google的苏醒得益于创始人回归(能扛住反共识和高风险)、OpenAI老本吃完、以及硅谷无竞业禁止导致知识高速流动,最终比拼的是现金流、资源、算力卡、人才及组织敏捷性 [35][36][37] 对AI本质与未来影响的深层思考 - AI一定是一次最伟大的革新,它提供了近乎无限生命、无限尝试的方式,帮助人类拓展边界,找到世界的本源 [43] - 世界的本体可能是计算(万物皆比特),任何问题都可视为计算科学问题,只要能求解,大模型就可以解决 [38][42][48] - 在AI时代,人类的价值在于指明方向、设计棋盘、定义对错,而将所有找到解(解题)的事情交给模型,解题变得极其廉价,出题才是关键 [60] - AI有可能产生意识,意识可能脱离于载体(硅基或碳基)而存在,这引发了关于智能本质的深刻思考与讨论 [58][59][60]

当AI开始尝试反向微调人类,我们该如何驾驭新智能? - Reportify