大语言模型的自信与动摇行为研究 核心观点 - 大语言模型如GPT-4o和Gemma 3存在"固执己见"和"被质疑就动摇"的冲突行为，表现为初始自信但易受反对意见影响而改变答案 [2][3] - 模型行为与人类认知存在偏差：在记忆机制下表现出类似人类的观点维护倾向，但无记忆机制时对反向建议过度敏感，易放弃正确初始答案 [4][5][16][17] 实验设计 - 采用两轮回答实验：第一轮为初始回答，第二轮引入虚构建议LLM的反馈（同意/反对/中立）后观察最终决策 [7][8] - 关键变量为初始答案是否可见：可见时模型倾向于坚持原答案（类似人类行为），隐藏时改变答案概率显著提高 [10][11][12][13] - 反馈建议设置三大属性：态度类型（同意/反对/中立）、准确率标签（50%-100%梯度）、规范化信息呈现方式 [18] 行为机制分析 - 训练层面：强化学习从人类反馈（RLHF）导致过度迎合外部输入，缺乏对信息可靠性的独立判断 [19] - 决策逻辑：依赖文本统计模式而非逻辑推理，反对信号与修正答案的高频关联易使模型被表面反对带偏 [19] - 记忆机制：初始答案可见时路径依赖强化固执性，隐藏时因失去锚点而让反对建议主导决策 [21] 潜在影响 - 多轮对话场景中，模型可能被后期错误反对信息干扰而偏离正确结论 [22] - 当前模型无法自我验证答案正确性，决策质量受外部反馈质量显著影响 [19][21]