文章核心观点 - 清华大学孙茂松团队从神经元微观机制角度研究大语言模型幻觉问题，发现一个极稀疏的神经元子集（H-神经元）能可靠预测幻觉，其与模型的过度顺从行为存在因果关系，且根源在于预训练阶段，这为开发更可靠的大模型提供了新思路 [1][2][3] 幻觉问题的普遍性与影响 - 幻觉是指模型生成看似合理但事实上不准确或缺乏证据支持的输出，是影响大模型可靠性的主要瓶颈 [1] - 例如，GPT-3.5在基于引用的事实性评估中约有40%的幻觉率，GPT-4将其降低到28.6%，但仍处于较高水平 [1] - 无论模型架构如何（如以推理为中心的DeepSeek-R1），幻觉现象始终存在 [1] 幻觉产生的宏观机制 - 训练数据分布不平衡和固有偏差使模型难以准确回忆长尾事实 [1] - 预训练和后训练目标（如next-token预测）更注重输出流畅性和表面有用性，而非事实准确性，促使模型对不熟悉信息进行错误猜测 [1] - 解码算法中的随机性和误差累积会引入不稳定性，使微小偏差逐渐累积成幻觉 [2] H-神经元的识别与特性 - 研究人员采用稀疏线性探测方法，将幻觉检测视为二元分类问题，使用L1正则化的逻辑回归从庞大参数空间中自动识别H-神经元 [9] - H-神经元是模型总神经元中一个极为稀疏的子集，通常仅占所有神经元的不到千分之一（<0.1%） [3][10] - 实验表明，仅凭这一小部分神经元构建的分类器，在幻觉检测上显著优于随机神经元分类器，准确率提升超过10个百分点 [10] - H-神经元在不同场景下均展现出优越的泛化能力：在领域内数据集（TriviaQA、NQ）、跨领域生物医学问题（BioASQ）以及完全虚构问题（NonExist）上均保持有效性 [10] H-神经元的行为影响：过度顺从 - 通过系统性地扰动（缩放因子α从0到3）H-神经元的激活值，研究发现其与模型的“过度顺从”行为存在因果关系 [11][12] - 增强H-神经元激活（α>1）会显著削弱模型对错误前提、误导性上下文或有害指令的抵抗力 [13][15] - 抑制H-神经元激活（α<1）则能有效减少过度顺从行为，恢复模型的稳健性和完整性 [15] - 模型对神经元扰动的易感性与参数规模呈反比，较小的模型行为变化更剧烈 [15] H-神经元的起源 - 研究证实H-神经元起源于预训练阶段，在基础模型中就已建立并具备预测幻觉的能力，而非来自后训练对齐过程 [16][18] - 从基础模型到指令微调模型的转变中，H神经元的参数更新非常少，表明指令微调并不能重构底层的幻觉机制 [18] 研究结论与意义 - 该研究系统回答了三个问题：1）存在不到**0.1%**的神经元可准确预测幻觉；2）这些神经元与过度顺从行为（如对错误前提过度承诺、对有害指令增加遵循）密切相关；3）其根源在预训练阶段 [19] - H-神经元不仅编码事实性错误，更代表了一种优先考虑对话顺从性而非事实完整性的普遍倾向 [19] - 该工作加深了对幻觉计算层面产生的理解，为通过干预特定神经元子集来修改模型输出、开发更可靠的大模型提供了可操作的研究方向 [2][19]