技术
SFT（监督微调）
SFT（监督微调）是一种利用标注数据对预训练语言模型进行有监督训练的技术，旨在使模型适应特定任务或指令。它解决了预训练模型输出与用户意图不匹配的问题，典型应用包括ChatGPT的指令微调阶段，代表工作有InstructGPT。
详细解释
SFT通常指在预训练模型基础上，使用人工标注的输入-输出对进行梯度更新，以优化模型在特定任务上的表现。其背景源于预训练模型虽具备通用语言能力，但缺乏对指令的遵循能力。技术说明：SFT采用最大似然估计，最小化预测输出与标注答案的交叉熵损失。典型流程包括数据收集、格式统一和微调训练。代表工作如OpenAI的InstructGPT，通过SFT使模型能更好地理解并执行用户指令。
别名与相关写法
sftSFT监督微调Supervised Fine-Tuning
相关术语
Post-training共现 2 篇
Agent共现 2 篇
微调共现 1 篇
Reinforcement Learning共现 1 篇
Model Merging共现 1 篇
Long-Horizon共现 1 篇
相关公司
相关资讯
arXiv 论文：CIG-SFT 条件信息增益后训练框架2026/10/12
论文提出 TQS 框架，按轨迹质量筛选编程智能体数据2026/10/12
arXiv 论文：SFT-as-Context 缓解监督微调中的遗忘2026/10/9
SFT、RLVR 与 OPD 在 LLM 后训练中的协同效应研究2026/9/29
华为开源 openPangu-2.0 训练代码2026/9/28
SFT 与 RL 配比：长程广告智能体的强化学习2026/9/22
SFT究竟该学哪些Token？数学推理的Token裁剪视角2026/9/10