RePro团队 投稿 量子位 | 公众号 QbitAI 这篇论文将推理的过程视为模型内部状态的优化过程，从而对如何重塑大模型的CoT提供了一个全新视角： 核心观察：推理即优化 RePro 基于这样一个核心思想：将模型的推理轨迹 （Trajectory） 看作是在损失曲面上寻找最优解的路径。 然而，"长思考"并非总是完美的。我们常发现模型会陷入 "过度思考" （Overthinking） 的陷阱：为了得出一个简单的结论，模型可能会生成 数千个冗余Token，甚至在错误的路径上反复横跳 （Backtracking） 。这不仅浪费了宝贵的算力，还增加了推理延迟。 RePro的三大"矫正"机制 近年来，随着o1、DeepSeek-R1等模型的爆发，Long Chain-of-Thought （Long CoT） 已成为提升LLM复杂推理能力的标配。 如何让模型在"深思熟虑"的同时，保持"思维敏捷"？ 基于上述视角，RePro设计了一套过程奖励机制，直接嵌入到RLVR （如PPO，GRPO） 流程中。 近日，上海人工智能实验室的研究团队提出了一种全新的后训练范式—— RePro （Rectifying Process- ...