NeurIPS 2025奖项概览 - NeurIPS 2025共评选出4篇最佳论文和3篇亚军论文（Runners Up）[1][2] - 本届会议是首个双城会议，分别于12月2日-7日在圣地亚哥和11月30日-12月5日在墨西哥城举办[3] - 时间检验奖（Test of Time Paper Awards）授予了10年前发表的Faster R-CNN论文，该论文已被引用超过56,700次[49][50] 最佳论文一：大语言模型多样性评估 - 研究核心是评估大语言模型（LLM）在开放式生成任务中的输出多样性，并提出了“人工蜂群思维效应”（Artificial Hivemind effect）的概念，指出现有模型存在显著的输出同质化问题[5][6][10] - 为解决评估方法不足的问题，研究团队推出了大规模数据集Infinity-Chat，该数据集包含2.6万条真实世界开放式用户查询以及31,250条人类标注，每个示例均由25位标注者独立评判[6][12] - 研究首次提出了针对LM开放式提示的完整分类体系，包含6大顶层类别及其下17个子类别，发现最先进的LM、奖励模型与LM评判器较难校准人类评分[8][12] 最佳论文二：门控注意力机制 - 论文由阿里千问团队等机构合作完成，核心发现是在缩放点积注意力（SDPA）后引入头部特异性Sigmoid门控这一简单修改，可持续提升模型性能[14][15][17] - 该改进在3.5万亿词元数据集上训练的15B混合专家模型（30种变体）与1.7B稠密模型上得到验证，能增强训练稳定性、允许更大学习率，并改善缩放特性[15][17] - 门控机制的有效性归因于两个关键因素：在Softmax注意力的低秩映射中引入非线性变换，以及采用查询依赖的稀疏门控分数调控SDPA输出，该技术已应用于Qwen3-Next模型系列[18] 最佳论文三：自监督强化学习的深度缩放 - 研究聚焦于自监督强化学习（RL）的网络深度缩放，证明将网络深度提升至1024层可带来显著性能突破，而近年多数RL研究采用的浅层架构仅约2-5层[21][24] - 在无监督目标条件设定下，新方法在模拟运动与操控任务上将自监督对比强化学习算法的性能提升了2至50倍，显著超越其他目标条件基线模型[24][26] - 网络深度的增加不仅提升了任务成功率，更引发了智能体学习行为的质性转变，实现了可扩展性的质的飞跃[24][26] 最佳论文四：扩散模型的隐式正则化 - 研究旨在理解扩散模型避免训练数据记忆并实现泛化的内在机制，发现了两个关键时间尺度：早期阶段τgen（模型开始生成高质量样本）和后期阶段τmem（记忆现象显现）[28][29] - 关键规律是τmem随训练数据量n呈线性增长，而τgen保持恒定，形成了随n扩大的有效训练时间窗口，揭示了训练动态中存在的隐式动态正则化机制[29][31] - 结论通过基于标准U-Net架构在真实与合成数据集上的数值实验，以及采用高维极限可解析随机特征模型的理论分析得到验证[31] 亚军论文核心发现 - 论文一系统评估了强化学习（RLVR）对大语言模型推理力的真实增益，结果显示RLVR主要提升采样效率，在小k（如k=1）更易命中正确路径，但在大k时基座模型表现更好，当前RL训练并未诱发全新的推理模式[33][34][37] - 论文二解决了“无标签数据在在线学习中的力量”这一开放问题，对任意Littlestone维度为d的概念类，传导式在线学习的最小错误次数精确为Θ(√d)，与标准在线学习的Θ(d)形成严格的二次差距[38][39][41] - 论文三提出“表征叠加”是神经缩放律（Neural Scaling）的关键机制，指出LLM用少量维度承载超量特征，由此产生向量几何重叠并决定损失的Scaling形态，该发现与Chinchilla Scaling Law一致[42][46][48] 时间检验奖获奖工作 - 获奖论文《Faster R-CNN》由任少卿、何恺明、Ross Gisshick和孙剑合著，对计算机视觉领域产生了深远影响，成为众多后续研究工作的基石[50] - 该论文在实现极高检测精度的同时，达到了接近实时的检测速度（每秒5帧），使基于神经网络的目标检测模型得以应用于现实世界的各种场景[50] - 这是首个用完全可学习的两阶段流程（包括区域建议网络RPN和检测网络）取代传统选择性搜索和人工设计候选框方法的工作[50]