★ 2
arXiv 论文:连续流语言模型的反向传播验证器奖励
该论文提出一种针对连续流语言模型的强化学习后训练框架,通过引入 critic 估计中间 token 嵌入的价值,绕过不可微的解码步骤,从而获得方差远低于 REINFORCE 的路径梯度。在四个推理任务上,该方法稳定提升连续流语言模型性能并优于同类基线。
arXiv cs.LG18 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
该论文提出一种针对连续流语言模型的强化学习后训练框架,通过引入 critic 估计中间 token 嵌入的价值,绕过不可微的解码步骤,从而获得方差远低于 REINFORCE 的路径梯度。在四个推理任务上,该方法稳定提升连续流语言模型性能并优于同类基线。