★ 3
Seg-OPD：分段在线策略蒸馏修正推理
针对token级在线策略蒸馏无法提供连贯的替代推理步骤、且在退化前缀上会强化错误模式的问题，提出分段在线策略蒸馏Seg-OPD：基于不确定性指标选择学生片段并获取教师重写，训练学生偏好教师重写同时保留token级监督。在数学推理与竞赛编程任务上平均相对提升5.22%。
arXiv cs.AI28 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
针对token级在线策略蒸馏无法提供连贯的替代推理步骤、且在退化前缀上会强化错误模式的问题，提出分段在线策略蒸馏Seg-OPD：基于不确定性指标选择学生片段并获取教师重写，训练学生偏好教师重写同时保留token级监督。在数学推理与竞赛编程任务上平均相对提升5.22%。