★ 2
TISD：轨迹干预的在线策略自蒸馏方法
针对在线策略自蒸馏（OPSD）只能沿学生采样轨迹评估教师目标、无法监督教师偏好分支后继上下文的问题，论文提出轨迹干预自蒸馏（TISD）。TISD 强制采用教师选择的分支动作，将后缀生成交还学生，并在特权上下文条件下蒸馏完整轨迹。在代码模型上平均 Avg@4 较 SDPO 提升 1.2 个百分点，科…
arXiv cs.AI35 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
针对在线策略自蒸馏（OPSD）只能沿学生采样轨迹评估教师目标、无法监督教师偏好分支后继上下文的问题，论文提出轨迹干预自蒸馏（TISD）。TISD 强制采用教师选择的分支动作，将后缀生成交还学生，并在特权上下文条件下蒸馏完整轨迹。在代码模型上平均 Avg@4 较 SDPO 提升 1.2 个百分点，科…