★ 3
研究揭示多语言后训练中的能力漂移问题
论文基于共享监督检查点训练两个 GRPO 分支,发现发布分支在 MATH 上提升 36.07 分,却在 XQuAD-Indic 上损失 19.32 F1。独立训练的兄弟分支可恢复印度语任务分数并保持 MATH,但无法修复文字合规性。研究还发现 MATH 增益主要来自更多输出框选答案,而非答案本身更…
arXiv NLP6 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文基于共享监督检查点训练两个 GRPO 分支,发现发布分支在 MATH 上提升 36.07 分,却在 XQuAD-Indic 上损失 19.32 F1。独立训练的兄弟分支可恢复印度语任务分数并保持 MATH,但无法修复文字合规性。研究还发现 MATH 增益主要来自更多输出框选答案,而非答案本身更…