机器之心编译 作者： Han Fang、Karthik Abinav Sankararaman 机器之心编辑部 LLM 后训练最佳入门介绍。 在大模型时代，Scaling Law 一度是 AI 领域公认的准则：只要堆更多数据、参数、算力，模型能力就会持续增长。GPT-3、PaLM 等的成功，几乎都是这种策略的胜 利。 然而，事情并没有一直按这条曲线上涨。研究者发现当模型的规模扩展到百亿、千亿级之后，Scaling Law 带来的边际效益开始递减。 于是，业界开始将目光从大力出奇迹的预训练，转向收益更大的后训练（Post-training）阶段。也正是在这个阶段，我们看到了 RLHF、RLAIF、DPO、RLVR 等方 法的爆发式创新。 一时间，「梭哈后训练」成了共识： OpenAI o 系列、DeepSeek R1、Google Gemini 等这些以推理为核心的模型，都通过强化学习后训练来提升模型的推理能力，后训练正在成为 LLM 走向高阶智能的 必经之路。 既然后训练这么重要，那么作为初学者，应该掌握哪些知识？大家不妨看看这篇博客《Post-training 101》，可以很好的入门 LLM 后训练相关知 ...