扩散语言模型与自回归模型对比研究 - 扩散语言模型（MDMs）在理论上具备并行生成多个词元的潜力，可能提升文本生成效率 [1][3] - 实际测试显示MDMs在数学推理基准GSM8K上需要更多采样步骤才能达到与自回归模型Qwen2.5-7B相当的准确率，导致更高推理成本 [3][6] - 消除训练数据差异后，扩散模型仍未展现出相对于自回归模型的效率优势 [4] 评估指标对模型表现的影响 - 词元错误率（TER）衡量文本流畅度时，MDMs可在恒定采样步数内达到理想困惑度，不受序列长度影响 [10][11] - 序列错误率（SER）评估逻辑正确性时，MDMs所需采样步数与序列长度线性相关，失去效率优势 [11] - 在GSM8K数学推理任务中，SER指标导致MDMs表现不佳，因其需要完全正确的思维链 [11][12] 适用场景分析 - 当任务优先考虑文本流畅性和高吞吐量（如创意写作）时，MDMs更具效率优势 [15] - 当任务要求序列级准确性（如数学推理、代码生成）时，自回归模型仍是更好选择 [15] - 研究证实扩散模型优势不能简单平移至语言领域，需根据具体任务需求选择模型类型 [16]