苏茨克维：你知道最令人难以置信的是什么吗？所有这些AI技术竟然都成为了现实。这一切难道不像直接从科幻小说里走出来的吗？ 帕特尔：确实如此。另一个令人惊讶的现象是，AI的渐进式发展感觉如此平常。想象一下我们将GDP的1%投入AI领域，这本来应该是个惊天 动地的大事，但现在看来却显得理所当然。 苏茨克维：人类对事物的适应速度确实很快，而且AI发展目前还比较抽象，你只是在新闻上看到某公司宣布了巨额投资，但日常生活中还感 受不到实质影响。 11月26日凌晨，OpenAI联合创始人、超级智能公司Safe Superintelligence（简称SSI）首席执行官伊利亚·苏茨克维（Ilya Sutskever，以下称苏茨 克维），接受知名播客主持人德瓦克什·帕特尔专访，探讨了SSI的战略、预训练存在的问题、如何提升AI模型的泛化能力，以及如何确保AGI 的平稳发展等。 以下为苏茨克维专访实录： 01 模型能力很"锯齿"：考试满分，实战翻车？ 帕特尔：我们应该从哪里开始讨论？ 帕特尔：你认为这种情况会持续下去吗？ 这也可以解释为什么我们看到评估性能和实际效果之间的脱节，尤其是模型的泛化能力差。简单来说，模型在评估中的优异表 ...

在硅谷的叙事体系里，Ilya Sutskever 是一个少数可以被称作"图腾"的名字。 作为 ImageNet 革命的重要推手、OpenAI 的联合创始人、GPT 系列的关键缔造者，他几乎定义了过去 十年深度学习的前进方向。 但就在全球产业都把赌注押在"堆更多 GPU、做更大模型"之上，试图用规模化（Scaling）去撞开 AGI 的大门时，这位技术奠基者选择了另一条路：创立SSI。 11 月 26 日凌晨，Safe Superintelligence（SSI）首席执行官、OpenAI 联合创始人伊利亚·苏茨克维（Ilya Sutskever，下称苏茨克维）在接受播客主持人德瓦克什·帕特尔采访时，罕见系统地谈论了他对当前 AI 路径的核心判断： 1、预训练时代的突破在于，它提供了一套可复用、几乎必然奏效的"配方"：准备足够的数据、算力和 一个能撑住规模的模型结构，性能就会持续上升。 如今，规模法则正在接近极限。强化学习的算力消耗巨大，却并不能算作真正的"扩展"。同时，扩展与 浪费算力之间的界线变得模糊。 这意味着行业正在从"规模驱动"重新回到"研究驱动"。科研确实需要算力，但并不需要绝对最多的算 力。真正需要 ...

AI行业技术发展现状 - 当前AI模型存在"参差不齐"现象，在复杂评测中表现出色却在简单任务上反复犯错，如修复Bug时引入新Bug[20] - 这种现象源于"奖励黑客行为"，研究人员过度针对评测集进行强化学习训练，导致模型缺乏真正理解和泛化能力[11][23] - 模型表现类似于"刷题家"，通过大量针对性训练获得表面能力，但缺乏真正的智能天赋[24][25] AI学习机制与人类对比 - 人类学习效率远高于AI，样本效率更高，这得益于进化留下的先验知识和内在学习机制[43][44] - 情绪在人类决策中扮演类似价值函数的角色，帮助在获得最终结果前判断决策好坏[29][32] - 人类拥有基于价值函数的内在学习机制，能够进行持续学习和自我纠正[11][35] AI发展阶段转变 - 扩展时代(2020-2025)以堆算力和数据为主旋律，通过预训练获得性能提升[38][39] - 当前预训练数据即将耗尽，单纯扩大规模的边际回报递减，行业进入"研究时代"[39][40] - 新阶段需要寻找新的"配方"，更聪明地使用算力，特别是在强化学习和推理过程中[40][41] Safe Superintelligence Inc战略 - 公司采用"直通超级智能"策略，专注于研发直到解决安全超级智能问题后再发布[9][59] - 目前专注于研究，不急于通过产品获利，避免商业竞争的"老鼠赛跑"[9][58] - 公司筹集30亿美元资金，专注于技术研究而非推理产品开发[56][57] 对齐与未来展望 - 核心对齐目标是"关爱感知生命"，这比单纯"听从人类指令"更稳健[9][76] - 未来可能出现多个大陆级规模的AI集群，只要前几个最强大的AI是对齐的，世界可能进入良性发展轨道[9][78] - 长期均衡状态可能是人类通过脑机接口与AI融合，成为"半AI"[9][82] 技术发展方向 - 价值函数将在未来AI发展中发挥重要作用，提高强化学习效率[34][41] - 根本性挑战是提高模型泛化能力，这比人类差得多[41][47] - 需要重新思考训练方式，实现类似人类的持续学习能力[48][49] 行业竞争格局 - 当前AI公司比想法多，扩展战略导致同质化竞争[53][99] - 随着AI能力增强，公司将更注重安全合作，行为模式将发生变化[74][75] - 未来可能出现专业化竞争，不同公司在不同经济领域占据优势[94] 研究哲学与方法 - 优秀研究依靠"自上而下"的信念，追求美、简单性和对生物学的正确借鉴[22] - 当实验数据与直觉相悖时，基于美的信念能支撑研究者继续寻找问题根源[22] - 真正的突破性研究不一定需要最大算力，Transformer等关键突破都是在相对有限算力下实现的[54][55]