★ 3
RSHD：从失败尝试中恢复监督信号，改进 GRPO 训练
该论文提出 Replay-Selected Hindsight Distillation（RSHD），在 GRPO 训练中把失败尝试转化为额外的监督来源。策略模型在看不到参考答案的情况下为每次失败写纠正笔记，再用笔记重新解题；只有当重放成功率高于原始组且笔记未泄露答案时才被采纳，并蒸馏回普通提示策…
arXiv cs.AI17 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
该论文提出 Replay-Selected Hindsight Distillation（RSHD），在 GRPO 训练中把失败尝试转化为额外的监督来源。策略模型在看不到参考答案的情况下为每次失败写纠正笔记，再用笔记重新解题；只有当重放成功率高于原始组且笔记未泄露答案时才被采纳，并蒸馏回普通提示策…