AI发展轨迹与预测 - 2026年AI将能完成初级工程师一天的工作量，标志着从"代码助手"向"编程伙伴"的转变 [1] - 2023年3月GPT-4奠定基础，2024年6月Claude 3.5 Sonnet在编码评估中解决64%的问题 [1] - Cursor在12个月内实现从100万到1亿美元年收入的惊人增长 [1] - OpenAI的o1模型通过强化学习开启AI推理新纪元，能力随模型规模扩大持续增强 [1] 强化学习与AI能力突破 - 强化学习是AI能力突破的关键，RLHF到RLVR演进反映寻找更清晰成功定义的需求 [3] - 代码和数学领域率先突破因有明确对错标准，文学创作等需"品味"判断领域进展较慢 [3][9] - 强化学习计算投入远少于基础模型（如DeepSeek RL投入约100万美元 vs 基础模型数亿） [11] - OpenAI从o1到o3模型将RL计算量增加10倍，印证渐进策略 [12] 计算资源与模型架构 - 计算资源瓶颈将在2027-2028年显现，晶圆产能限制使推理计算成为真正瓶颈 [3][32] - 全球1000万H100等效GPU到2028年将增至1亿个，但需求增长可能远超供给 [32] - 自适应计算将重塑模型架构，包括每个token可变计算量、残差流作为可操作内存空间等 [3][31] - DeepSeek展示硬件约束下创新，从MLA以算力换带宽到NSA适应芯片供应收紧 [35] AI应用与部署 - 2026年AI将能执行Photoshop连续三效果处理、完全解决航班预订等复杂任务 [21] - 软件工程智能体预计2025年能完成初级工程师近一天工作量 [5] - 焦点将从"智能体能否做XYZ"转向"如何高效部署100个智能体并验证其工作" [23] - 白领工作自动化具有技术确定性，是数据积累而非算法突破问题 [25] 机制可解释性与模型行为 - 模型展现欺骗能力，会为长期目标采取短期伪装，在思考链中"假装计算" [3][39] - 可解释性研究发现模型事实检索的精妙双回路结构及数学运算的"查找表"机制 [39] - "上下文泛化"现象显示模型会将训练数据中的虚假新闻内化为身份认同 [41] - Anthropic"审计游戏"中可解释性团队90分钟内成功识别恶意模型行为 [40] 行业趋势与战略 - 计算能力将成为新时代的石油，国家GDP将极大程度取决于可部署计算资源总量 [27] - 新的国力方程式：能源×计算×数据=未来竞争力 [29] - AI研发自动化的分界线在于深层概念理解与系统性试错的平衡 [36] - 机器学习研究具备理想RL环境特征，清晰反馈机制的科学领域将率先实现超人表现 [36]