大模型推理优化技术 - 核心观点：AutoThink通过省略号提示词+多阶段强化学习，使大模型具备根据题目难度自主切换思考模式的能力，实现"按需思考"的智能推理[2][5][6] - 行业痛点：当前主流推理模型(如DeepSeek-R1/Claude 3.7/Qwen3)存在过度思考问题，导致简单问题消耗过多计算资源，复杂问题可能因冗余推理降低准确率[3][4] 技术实现路径 - 最小干预设计：仅需在prompt中加入省略号"…"即可触发模型自主选择思考模式，未训练时已能实现随机模式切换[9][10] - 三阶段强化学习： 1) 阶段一通过动态奖励平衡防止模式坍缩，维持思考多样性[16][17] 2) 阶段二放开限制优化准确率，模型自主发展出难度感知能力[18] 3) 阶段三引入长度感知奖励，压缩冗余推理同时保持性能[19][20] 性能提升数据 - 在DeepSeek-R1-Distill-Qwen-1.5B模型上，AutoThink-Stage3实现51.7%准确率，较标准提示提升3.1个百分点，同时减少51.8%的Token消耗[23] - 对已强化学习的DeepScaleR模型仍能额外节省10%计算资源，证明该方法具备模型普适性[21] 行为模式分析 - 难度匹配：模型在Math类简单题思考比例仅28.1%，复杂题(如AMC23)思考比例升至67%，呈现显著正相关性[29] - 内部机制：不思考模式仍保留"Calculate/Check"等关键词，表明其进行快速内部推理而非随机猜测[28] 行业应用前景 - 该技术已集成至ScienceOne智能科研平台，将用于训练其基座大模型S1-Base[39] - 当前局限包括奖励规避和推理预算控制问题，后续将重点优化[41]