AI行业发展阶段与范式转变 - Scaling（扩展）时代已结束，单纯将规模扩大100倍不会带来模型能力的质变[4][8] - 行业从2020年至2025年是扩展时代，而2012年至2020年是研究时代[9] - 行业正重新进入研究时代，特征是尝试多种方法并观察有趣现象的发生[11] - 当前真正瓶颈是模型泛化能力远不如人类，而非算力[4][13] 技术研发方向与核心挑战 - 预训练数据终将耗尽，行业正在探索魔改版预训练用于强化学习等其他方法[7] - 模型能力呈"锯齿状"，评测表现与真实世界表现存在巨大断层[27][30] - 泛化能力包含两个子问题：样本效率低以及难以教会模型所需技能[25] - 人类样本效率极高，可能源于进化赋予的核心先验知识或更好的机器学习算法[26] 价值函数与情感的作用 - "情感"作为一种价值函数未来一定会被广泛使用，简单但能在广泛情境下发挥作用[4][18] - 价值函数能让强化学习更高效，无需等待任务完成即可提供实时反馈[16][17] - 人类情感对于生存和有效行动至关重要，类比为大模型中的价值函数[15] - 价值函数的使用界限开始模糊，可能是新配方的关键组成部分[10] AI公司竞争格局与商业模式 - 沿用"盲目扩大规模"路线的公司可能获得惊人收入但不一定有利润[4] - 未来竞争将导致价格下降，公司需在同质化竞争中寻找差异化[34] - 可能出现专业化竞争格局，不同AI公司专注不同复杂领域[34] - 大规模部署AI可能带来经济飞速增长，但增长速度难以预料[35] 超级智能发展与对齐目标 - 未来5-20年可能出现具备人类级别学习能力并能走向超智能的系统[44] - 最终对齐目标是让超级智能真正关心和感知所有生命[4][43] - 构建关爱感知生命的AI比只关爱人类的AI更容易，因为未来大多数感知体将是AI自身[43] - 渐进式部署AI比纯粹思考更重要，让世界感受AI能力是关键[4][39] 研究方法与公司战略 - 好的研究品味需要美感、简洁、优雅以及从大脑汲取的正确灵感[37][38] - SSI公司专注于研究，技术路线与众不同且全力以赴[57][58] - 公司认为分阶段发布模型至关重要，部署过程本身就是试错和学习时期[53][56] - 持续学习非常重要，AI应像绝顶聪明的15岁少年那样充满干劲地学习[56]