公司人事变动 - Meta首席AI科学家、负责基础AI研究的Yann LeCun预计将很快离职[1] - 公司今年任命年仅28岁的Alexandr Wang为首席AI官，成为LeCun的上司[4] - 公司任命另一位相对年轻的首席科学家赵晟佳，职位也在LeCun之上[4] 公司战略与组织调整 - 公司AI部门组织架构相当奇特，分成了多个独立的团队[6] - 公司不断调整AI组织结构，上个月超级AI实验室裁掉了数百人，包括10年老将田渊栋[9] - 公司在半年之内进行了第四次AI业务调整[9] - 新组建的AI研究部门由Wang主导，目标明确：要快、要落地、要产品化[12] 研发资源与影响力变化 - LeCun领导的FAIR部门经历了裁员、预算缩水，内部影响力明显下降[12] - FAIR曾是公司内部思想最活跃的象牙塔，研究人员可探讨各种AI未来路径[12] - LeCun现在主要做自己的研究项目，没有参与公司首个开源大语言模型Llama的研发[16] - 公司用天价薪酬疯狂从对手那里挖角顶尖AI专家[1] 技术路线分歧 - LeCun对scaling失去信心，而公司盛赞赵晟佳在scaling方面带来的突破[7] - LeCun告诫博士生不要做LLM，认为大语言模型是强弩之末、一条死胡同[7][18] - LeCun认为3到5年内世界模型将成为主流AI架构，没人再会用现在的LLM[18] - 公司CEO扎克伯格宣称超级智能已近在眼前[1] 世界模型技术理念 - 世界模型通过视觉等感知数据主动学习世界规律，而LLM只是依赖海量文本做预测[23] - 人类学习主要方式不是读文本，四岁小孩接触过的数据量是最大LLM的50倍[24] - 目标驱动的AI系统通过传感器和视频数据训练来认知物理世界[27] - 世界模型能呈现行动带来的影响，所有潜在变化都会实时更新至系统记忆[29] 技术可行性论证 - 训练大语言模型所需文本需要一个人花10万年才能读完[23] - 大语言模型训练文本量需要一个人花45万年读完，而四岁孩子通过感官处理了1.4x10^14字节的感觉数据[36] - 世界模型将拥有更强大的安全特性，控制方式是内置的而非神秘莫测的黑箱[41] - LeCun估计从与世界的互动中获取的信息比文本多得多[24] 技术应用前景 - 世界模型将使未来能够构建出可以规划行动、实现目标、进行推理的系统[38] - 这类系统需要与可穿戴设备互动，就像与人交流一样[30] - LeCun正在与业内同行商议创办公司、寻找投资，组建专注世界模型的团队[23] - 推动AI领域迎来类似ChatGPT的爆发式发展可能需要耗费数年甚至永远无法实现[41]