技术
Instruction Tuning(指令微调)
指令微调(Instruction Tuning)通过指令-回答数据训练语言模型,解决预训练模型不遵循人类指令的问题,提升零样本任务泛化能力,代表工作如FLAN、InstructGPT和Alpaca。
详细解释
指令微调在预训练后使用多任务指令数据集进行监督微调,使模型学会理解并执行新指令。数据通常由人工标注或模型生成,涵盖多种任务类型。该方法显著提升模型在未见任务上的表现,是构建对话助手的关键步骤,后续常结合RLHF进一步对齐人类偏好。
别名与相关写法
instruction tuning
相关术语
相关资讯
研究比较Llama、Qwen、Gemma指令微调对知识冲突回路的影响2026/9/23
紧凑可复用MoE用于持续多模态指令调优2026/8/31
研究:指令微调使语言模型偏好避开整数与整十数2026/10/28