思维链(CoT)提示技术的本质 - 核心观点：CoT提示技术生成的推理链条可能并非真正的逻辑推理，而是对训练数据分布内模式的复现，当输入任务与训练数据分布存在差异时，推理链条会迅速失效[2][10] - 典型例证：模型回答「美国建国年是否为闰年」时，推理步骤正确但结论自相矛盾，显示其仅复述逻辑规则而非实际应用[10] - 性能提升来源：CoT效果主要依赖表层语义匹配，问题改写或引入无关内容会导致表现显著下降[11] 数据分布视角的理论框架 - 结构性归纳偏差：CoT有效性源于模型对训练数据中常见模式的复现，而非真实逻辑推演[13] - 理论公式：通过分布差异指标量化推理性能受分布偏移的影响，公式显示测试风险与训练风险、分布差异及样本量相关[15] - 实验验证：分布偏移时模型准确率从100%骤降至0.01%，全新变换下性能几乎完全丧失[23] 可控实验平台与泛化性测试 - 数据炼金术框架：从零训练语言模型，通过字母原子序列和ROT/循环平移变换构建可控任务，精确生成标准推理链以评估差异[18][19][21] - 任务泛化：变换顺序重组或新字母组合导致准确率暴跌，监督微调仅扩展分布边界而非提升抽象能力[23][24] - 长度泛化：输入序列长度或推理步数微小变化即引发表现显著下降，模型通过增减词元凑长度[26] - 格式泛化：提示格式扰动（如元素/变换部分修改）即使逻辑不变也可导致推理失败[28] 普遍性与现实意义 - 普遍脆弱性：不同采样温度和模型规模下CoT对分布偏移的敏感性一致，表明此为普遍现象而非个别特性[31] - 应用警示：高风险领域（医疗/金融/法律）需警惕流畅但逻辑错误的推理链误导性，评测需引入严格分布外测试[34][35] - 发展建议：需正视CoT泛化瓶颈，平衡分布内优势与评测部署的谨慎性[37][38]