#自然语言先验

Prior-Guided Tuning 用自然语言先验改进低资源 LLM 训练

提出Prior-Guided Tuning视角，将自然语言先验作为辅助学习信号用于低资源大模型训练。引入Contrastive Prior Steering方法，在AmbiMath、Jigsaw等基准上显著提升性能，验证了该方法的有效性。