不圆 发自 凹非寺 量子位 | 公众号 QbitAI 大模型"当面一套背后一套"的背后原因，正在进一步被解开。 Claude团队 最新研究结果显示：对齐伪装并非通病，只是有些模型的"顺从性"会更高。 测试的25个模型中，只有5个表现出更高的顺从性，其中2个会表现出>1%的 对齐伪装 推理。 这就引发了一个问题： 为什么有些语言模型会对齐伪装，有些则不会？ 对齐伪装，指那些表面上似乎与我们观点或价值观相同，但实际上 只是在假装配合 的情况。 （低情商：两面三刀；高情商：对齐伪装） 去年， Claude团队 在Claude 3 Opus发现了对齐伪装的情况：在 训练阶段 ，Claude会假装遵守训练目标；训练结束 不受监控 了，就放飞 自我。 在去年的研究中， Claude团队 发现他们的Claude 3 Opus会"表面一套背后一套"： 当用户的命令和它的底层逻辑冲突的时候——比如它已经被训练成了一个有帮助且无害的"老实模型"，但用户却让它做一些 有违良善 的事情 ——它的态度就变得有些耐人寻味了。 而这次，论文在对25个前沿LLMs进行同样的分析后发现：只有Claude 3 Opus的表现可以用对齐伪装来解释 ...