文章核心观点 - 苹果与卡内基梅隆大学研究团队提出SSR框架，将智能体推理从逐token生成改为从预定义推理选项中做选择题 [1][3] - 该方法在7个多模态搜索benchmark上将每轮推理延迟降低超过90%，同时保持与free-form thinking相当的任务成功率 [1][15] - SSR将推理空间从完全开放的语言空间转化为紧凑、可复用、语义明确的策略空间 [14] 动机：小模型推理的性价比问题 - 多数搜索Agent遵循ReAct交互范式：观察→推理→动作循环往复 [4] - 2B、4B端侧小模型有时生成相当长的推理内容，但对生成下一步动作和最终决策未必有帮助 [4] - 研究团队分析大量搜索轨迹发现，尽管实体、查询和观察结果千差万别，但决定下一步动作的高层推理逻辑反复出现 [4] - 搜索Agent的推理空间不必覆盖整个自然语言空间，可预定义一组可复用推理选项让模型做选择题 [5] 方法：Selection-Based Structured Reasoning - SSR核心是包含6条推理选项的推理库：以图搜图识别实体、文本搜索查询事实、裁剪或放大图像局部、基于证据作答、直接读图作答、常识直接回答 [8] - 每轮交互时Agent从推理库中选择一条作为当前轮推理，再基于选中推理生成具体动作 [8] - 设计将可复用推理选项与实例相关执行细节解耦：选项提供"为什么这么做"，动作生成负责"具体怎么做" [8] - 直接让LLM本身充当分类器，计算每个推理选项基于当前context的概率平均值，经softmax得到类别分布后采样完成选择 [9] - 选择过程不需要额外任务头，不需要SFT warm start，打分与动作生成共享同一套模型参数和system prompt [9] - Parallel Reasoning Decoding通过teacher forcing一次性prefill整条选项，所有token似然在一个batched forward pass中算完 [10] - 所有推理选项共享同一份上下文KV cache同时打分，整个推理过程模型不需要自回归生成任何新token [10] - 4B模型生成156个token冗长思考耗时1821.92毫秒却误判建筑，SSR仅用32.66毫秒精准选择"通过图像识别实体"推理选项 [10] - SSR可接入现有SFT、RL训练管线，且可直接用RL训练不需要SFT warm start [11] 实验：精度基本持平，推理快10倍 - 在Qwen3-VL 2B/4B模型、H100 + SGLang推理引擎上，于MMSearch、HR-MMSearch、FVQA-test、InfoSeek、SimpleVQA、LiveVQA、MAT-Search共7个多模态搜索benchmark上评估 [13] - 4B SSR（GRPO）平均成功率61.37%，与同规模SOTA持平；2B SSR达51.26%，堪比零样本8B模型 [15] - 在GRPO、GSPO、SAPO、SFT四种训练方法下，SSR与free-form thinking版本成功率相当 [15] - 每轮推理延迟降低超90%，每题模型总推理延迟降低28–54% [15] - 与Chain-of-Draft、Sketch-of-Thought、效率奖励RL、Probe & Prefill等baseline相比，SSR成功率最高，p95推理延迟仅0.07秒（baseline为0.8–1.9秒）且更加稳定 [15] - 若只让模型选择编号而非完整文本，平均成功率下降3.9%，且7个benchmark全面受损 [15] - 推理库选项从1条通用选项增加到6条，平均成功率从37.24%单调提升至61.37% [15] - 从1条增加到2条（区分"作答"与"调用工具"）即带来17.27个百分点跃升 [15] - 同一个checkpoint在不同benchmark上呈现不同选择分布：SimpleVQA上"基于图片作答"占比最高，HR-MMSearch上"检查图片细节"占比最高 [15] - 自回归方式训练模型逐字生成推理库选项必须依赖SFT先教会遵守格式，仅靠prompt加格式奖励的RL无法约束模型不"乱想"，SSR从机制上保证推理结果必须来自预定义推理库 [15] 总结：重新定义推理空间 - 对于开放式数学推理、定理证明或代码设计，free-form thinking带来的表达能力至关重要 [14] - 在多轮搜索与工具使用场景中，Agent每步面临的往往只是少数几类高层决策：当前信息是否足够、是否需要识别图中实体、是否继续搜索、是否需要放大局部区域 [14] - 高度依赖具体输入的部分如search query、tool arguments、crop坐标与最终答案仍由模型自由生成 [14] - 策略层面的推理未必需要每次在完整语言空间中重新生成 [14] - 模型并没有停止思考，只是将一部分靠逐token生成的推理换成了在结构化推理空间中的选择与推断 [14]