机器之心报道 编辑：张倩 思维链里的步骤很重要，但有些步骤比其他步骤更重要，尤其是在一些比较长的思维链中。 找出这些步骤，我们就可以更深入地理解 LLM 的内部推理机制，从而提高模型的可解释性、可调试性和安全性。 但是，这些步骤没有那么好找，因为每个生成的 token 都依赖于之前的所有 token，其计算难以分解。 在最近的一项研究中，来自杜克大学和 Aiphabet 的研究者提出， 在句子层面分析推理痕迹或许是一种有前途的方法 。 作者指出，与 token 相比，句子的连贯性更强，并且往往与 LLM 提取的推理步骤相一致；与段落相比，句子不太可能混淆推理步骤，并且可以作为连接不同步骤 的有效对象。 作者提出了三种互补的方法来分析 LLM 的推理过程，这些方法旨在识别推理过程中的关键步骤，即所谓的「思维锚（thought anchor）」，这些步骤对后续推理过 程具有重大影响。 论文标题：Thought Anchors: Which LLM Reasoning Steps Matter? 论文链接：https://arxiv.org/pdf/2506.19143 第一种是 黑盒方法 。它通过反事实分析衡量句 ...