#师生协同

共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 3

研究揭示在线策略蒸馏中教师模型存在离策略不对称

论文指出在线策略蒸馏存在根本性不对称:学生轨迹对教师而言是离线策略的,教师续写性能随学生前缀变长而下降。提出SCOUT协同训练框架,用可验证奖励的强化学习周期性优化教师对学生前缀的条件能力,在多种师生配置与推理领域持续提升蒸馏效果。

arXiv cs.LG32 天前

相关标签

师生协同 最新资讯与动态(1 篇) - 智讯 AI News