技术
Post-training(后训练)
Post-training 指在预训练模型完成后进行的额外训练阶段,通过微调、对齐等技术提升模型在特定任务上的性能与安全性,解决预训练模型直接使用效果不佳的问题,典型应用如 InstructGPT 的 RLHF。
详细解释
Post-training 包括监督微调(SFT)、奖励建模和强化学习(如 RLHF)等步骤。预训练模型虽具通用知识,但输出可能不符合人类指令或价值观。Post-training 通过指令数据微调使模型遵循指令,利用人类反馈优化生成质量。OpenAI 的 InstructGPT 和 ChatGPT 均采用此流程,显著提升模型有用性和无害性。该阶段是当前大模型落地应用的关键环节。
别名与相关写法
post-training
相关术语
相关公司
相关资讯
Athanor 系统让 Claude 智能体自主后训练 Qwen3-4B2026/10/16
研究:引导向量可作 LLM 后训练训练信号2026/11/2
研究:模型越大越依赖思维链,且与后训练无关2026/10/30
LLMON 后训练法将间接提示注入成功率降至 0.02%2026/10/30
研究揭示后训练如何塑造 LLM 价值偏好2026/10/27
论文提出思维链可监控性的因果边界与训练方法2026/10/26
LADDER 提出分层稀疏分配,提升 LLM 高稀疏度剪枝鲁棒性2026/10/22
Navalia 框架发布:可验证任务合成与长程后训练提升协作智能体2026/10/21