AGI发展时间线 - 行业普遍鼓吹的“智能体元年”存在过度预测，更准确的描述应为“智能体的十年”[3][4] - 当前智能体仍处于非常初期的阶段，需要大约十年的持续研究工作才能让其真正可用[4][5] - 基于在AI行业约15年的经验和个人直觉，预测AGI的到来还需要10年时间[5][6][7] AI技术架构演进 - 预测未来10年AI的核心架构仍可能基于Transformer，但形态会有所演化[8] - 根据“时间平移不变性”，10年后仍将使用前向后向传播和梯度下降来训练巨大的神经网络，但所有组件都会变得更大[9][10] - 算法改进仅能将误差减半，进一步提升必须依靠更大的数据、更强的计算力和更优的软件系统，算法、数据、硬件与系统的进步缺一不可[12] 智能体现状与挑战 - 当前智能体存在智能不足、多模态能力弱、无法自主操作电脑等主要问题[4] - 智能体在认知上存在缺陷，缺乏持续学习能力，这些基础性问题的解决约需十年[5] - 在编码任务中，“手写+自动补全”是目前最佳选择，智能体擅长样板代码但处理“智力密集型代码”能力不足[13][15][16][17][18][20] 强化学习与模型训练 - 强化学习虽不完美，但相比过去仅模仿人的方法，仍是目前最优解[21][22] - 强化学习过程会产生大量噪声，且大语言模型充当评委时易被对抗性样本欺骗，存在泛化能力不足的问题[23][24] - 未来可能需要引入“元学习”或合成数据机制来改进模型评估，但目前尚无实验室在大规模通用环境下成功实现[26][27] 人工智能与人类学习对比 - 当前大模型仅通过预测下一个词学习，缺乏人类通过反思、讨论整合知识的“思考”过程[28] - 人类“不擅长记忆”是进化优势，迫使其学习可泛化模式，未来AI应减少机械记忆，更多依靠思考与探索[28][30] - 真正的智能不在于记忆更多，而在于理解与泛化，需要构建大模型压缩记忆工作，重点发展认知部分[30] AI对社会与工作的影响 - 通用人工智能被定义为能够以人类或更好的表现完成任何有经济价值任务的系统，但已从最初定义中移除了物理性任务[31] - 放射科医生和呼叫中心等工作未被完全自动化，因其涉及复杂工作场景，理想状态是AI完成80%工作量，人类监督完成剩余20%[32][33][34] - 更看重AI与人类的互补关系，而非替代关系，现实中许多工作比呼叫中心员工的工作复杂得多[35][36] 超级智能与社会自动化 - 超级智能被视为社会自动化进程的自然延伸，将出现越来越多从事数字工作和体力工作的自主实体[37] - AI驱动的自动化会显得“非常陌生和奇怪”，当世界在计算机集群上运行时，人类可能逐渐失去对正在发生的事情的控制和理解[37] - 从工业革命开始，递归式自我改进和智能爆炸已持续数百年，我们处于“智能爆炸”中已有几十年[37][38]