技术核心与方法论 - Meta FAIR团队提出名为CRV（Circuit-based Reasoning Verification）的新方法，通过替换模型内部的MLP模块，使AI的推理过程变得实时可见和可量化[1][6] - 该方法将传统MLP模块替换为可解释的稀疏结构Transcoder层，使每个神经元能代表特定语义特征（如“加法”、“乘法”），从而在推理过程中追踪神经元的激活和信息传递[13][16][17] - 系统会绘制动态的归因图（Attribution Graph），节点代表被激活的特征，边表示信息流动，形成可观察的“思维轨迹”[20][21][22] 性能表现与实验结果 - 在算术推理实验中，CRV的检测精度（AUROC）达到92.47%，误报率（FPR @95）降至37.09%，显著优于其他方法[8] - 通过读取“推理指纹”（即电路结构特征），可预测模型是否即将犯错，错误检测精度提升至92.47%[1][7][27] - 实验证明，关闭一个错误激活的乘法特征神经元后，模型能立即修正计算错误，例如将表达式(7 × ((5 + 9) + 7))的输出从错误答案105修正为正确答案147[9][10] 行业影响与意义 - CRV技术被视为AI研究的分水岭，首次将思维链摊在显微镜下，使研究者能直接验证思维结构本身，而非仅评估输出答案[32][34][38] - 该方法让“可解释性”和“可靠性”真正结合，错误不再是随机现象，而是可诊断的电路级故障，为“可控智能”奠定基础[36][44][45] - 技术目前仅在最大8B参数规模的模型上验证，扩展到更大模型及复杂任务（如自然语言推理）仍需进一步研究[41]