技术
On-Policy Self-Distillation
一种让模型在自身生成的数据上自我蒸馏、提升性能的训练方法。
详细解释
传统知识蒸馏需教师模型，而自蒸馏让模型自我学习。On-Policy 指使用模型当前策略生成数据，避免分布偏移。该方法在强化学习、语言模型微调中流行，如通过自我批评改进输出，无需额外教师，节省资源并提升泛化。
别名与相关写法
on policy self distillation
一种让模型在自身生成的数据上自我蒸馏、提升性能的训练方法。
传统知识蒸馏需教师模型，而自蒸馏让模型自我学习。On-Policy 指使用模型当前策略生成数据，避免分布偏移。该方法在强化学习、语言模型微调中流行，如通过自我批评改进输出，无需额外教师，节省资源并提升泛化。