文章核心观点 - 京东零售视觉多模态与AIGC团队联合南京大学提出Road MOPD方法，解决多教师在线策略蒸馏中不同领域教师指导相互干扰导致“一科进步、另一科退步”的合版冲突问题 [1][32] - 方法核心是让多位教师共同评价学生的同一份回答，通过跨教师反馈增强共识信号、减弱分歧信号，并在参数更新前削减冲突分量，在减少学习干扰的同时保留目标任务的学习力度 [1] - 实验表明收益可延伸到低冲突组合及三领域联合训练场景，为将不同专家能力整合进同一学生模型提供了方法支撑 [32][33] 背景与问题：教师差异大，按领域各教各的还不够 - 在线策略蒸馏（OPD）让学生先生成回答，教师再沿实际生成内容逐token提供反馈，传统多教师OPD按领域独立监督，其他教师不参与对当前回答的联合评议 [5] - 数学+代码组合梯度冲突层占比均值仅2.2%，各项基准成绩大多保持或提升；但数学+医学、代码+医学冲突层占比均值分别升至45.2%和36.6%，训练后期更突出，两组组合中四项医学基准全部低于单领域OPD [8] - 这暴露传统MOPD在教师差异较大时的合版难题：领域路由分开了监督来源，却没有协调它们对共享参数的影响 [8] - 真实业务中商品理解、素材质检、风控合规等任务的能力合版同样需要协调不同业务专家指导，让统一模型吸收业务专长同时保持通用多模态能力 [1] 方法设计：跨教师协同守护 - Road MOPD保留领域专家的主要监督职责，同时请辅助教师评价相同的学生回答、相同的上下文，辅助教师扮演跨领域评议者提供兼容性线索，并引入学生初始化时的冻结副本作为所有教师表达修正方向的共同参考 [10] - 第一步把教师共识落实到每个token：比较两位教师相对冻结参考模型的token概率，方向一致则增强、存在分歧则减弱，一致性信号经平滑、限幅后变成调节系数，证据接近零时回到接近标准OPD的监督 [14] - 该方法能识别教师绝对概率不同但修正方向相同的情况，调节作用于主教师的相对奖励信号，而非把整项损失简单乘上一个权重 [15] - 实验依据：固定学生模型后按教师分歧从低到高分成五组，医学领域梯度冲突率从46%升至76%，说明文本层面意见差异能提供更新冲突线索 [17] - 第二步减少冲突也保留学习力度：引入预防性梯度投影，用调整后监督计算目标梯度、用辅助教师标准OPD监督计算辅助梯度，按参数张量检查内积，方向兼容则保留、冲突时移除部分不兼容分量，辅助梯度只提供约束方向不直接作为独立更新 [19] - 与常见PCGrad协调不同任务各自数据形成的梯度不同，Road MOPD检查其他教师对当前回答的反馈，提前约束当前更新 [19] - 投影设置目标梯度的范数保留下限并自适应选择投影强度，消融中改为完全投影后两组高冲突设置综合分分别下降0.83和0.44分 [21] - 辅助教师不止一位时，先汇总教师一致性，再在同一个范数保留下限内依次投影 [22] 实验结果 - 实验采用Qwen3-4B和Qwen3-1.7B，均关闭thinking模式，覆盖数学、代码、医学的11项基准，与Vanilla MOPD、ExOPD、Open-MOPD、CaMOPD等方法比较 [24] - 4B学生在数学+医学联合训练中，数学均分从45.97升至47.60（提高1.63个百分点），医学从39.45升至48.23（提高8.78个百分点），两域综合分从42.71升至47.92 [24] - 代码+医学组合：代码均分从60.53升至63.02（提高2.49个百分点），医学从40.75升至47.75（提高7.00个百分点），两域综合分从50.64升至55.38，两组设置中两个领域均分均领先所比较的多领域方法 [24] - 1.7B学生代码+医学组合较Vanilla MOPD分别提高2.15和5.58个百分点；数学+医学存在取舍：数学从28.36降至27.21，医学从31.18升至36.89，综合分从29.77升至32.05 [27] - 两种学生规模、两组高冲突组合共四组实验中，Road MOPD均取得最高双域综合分，领先各组最强综合基线0.72—2.89分；1.7B学生的数学、代码均分仍略低于ExOPD，但按领域等权衡量整体表现更好 [27] - 4B学生联合学习数学+代码时，两域均分较Vanilla MOPD分别提高1.61和1.83个百分点，综合分达到55.40，收益延伸至低冲突场景 [27] - 扩展到数学、代码、医学三领域后，4B学生三个领域均分较Vanilla MOPD分别提高0.31、1.68、7.42个百分点，均领先所比较的多领域方法，综合分达到52.89，比Vanilla MOPD提高3.13分，比次优的CaMOPD提高1.18分 [28] - 评测口径为领域内先对基准取平均，综合分再按领域等权平均，医学结果来自文本问答基准 [30] 行业意义与团队背景 - 跨教师反馈为缓解“学会一科、退步一科”提供了有效路径，也为将不同专家能力整合进同一个学生模型提供了方法支撑 [33] - 研究由南京大学LAMDA实验室与京东零售视觉多模态与AIGC团队联合完成，Shi-Yu Tian与Yong Liu为共同第一作者 [35] - 南京大学LAMDA实验室由中国科学院院士周志华领导，依托计算机软件新技术全国重点实验室，长期深耕机器学习与数据挖掘，围绕集成学习、半监督学习、多示例与多标记学习等方向开展基础理论、算法方法与应用研究 [35] - 京东零售视觉多模态与AIGC团队立足零售业务一线需求，聚焦多模态商品理解、可控视觉生成与虚拟试穿，研发了电商多模态理解模型OxygenVLM、面向多品类虚拟试穿的Oxygen-TryOn等模型 [35]