模型微调

模型微调通过调整预训练模型的全部或部分参数，使其适配新任务。常见方法有全参数微调和参数高效微调（如LoRA、Adapter）。背景是预训练模型泛化性强但缺乏领域特异性，微调能以较小成本实现领域适配。技术要点包括学习率调度、灾难性遗忘缓解和数据质量把控。