Weight Transfer（权重迁移）

Weight Transfer的核心思想是利用源任务上学到的知识加速目标任务的学习。常见形式包括：微调（Fine-tuning）直接复制权重并继续训练；模型嫁接（Model Stitching）将部分层权重迁移到新架构；以及知识蒸馏中教师模型权重指导学生模型初始化。该技术能显著减少训练时间与数据需求，但需注意源任务与目标任务的领域差异，避免负迁移。在跨模态和多语言场景中，权重迁移常结合适配器（Adapter）进行参数高效微调。