★ 3
研究:引导向量可作 LLM 后训练训练信号
论文研究引导向量(SVs)能否在 SFT、蒸馏与 RLVR 后训练中引导参数更新。监督场景下注入 SV 最高带来 12% 提升,RL 场景可修复全错组的零梯度问题,同时指出代码生成等三类失效边界。
arXiv cs.LG6 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文研究引导向量(SVs)能否在 SFT、蒸馏与 RLVR 后训练中引导参数更新。监督场景下注入 SV 最高带来 12% 提升,RL 场景可修复全错组的零梯度问题,同时指出代码生成等三类失效边界。