★ 3
TAR 框架提出自适应回放保留 RLVR 推理多样性
论文研究 RLVR 降低大模型推理行为多样性的现象,指出有限在线采样会逐步压制语义不同但同等奖励的推理模式。提出 TAR 目标自适应回放框架,构建基座模型多样解的记忆库,仅在存储行为被压制时选择性回放。在六个数学推理基准和两个 Qwen2.5 规模上,TAR 在性能与多样性间取得更好平衡。
arXiv NLP13 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文研究 RLVR 降低大模型推理行为多样性的现象,指出有限在线采样会逐步压制语义不同但同等奖励的推理模式。提出 TAR 目标自适应回放框架,构建基座模型多样解的记忆库,仅在存储行为被压制时选择性回放。在六个数学推理基准和两个 Qwen2.5 规模上,TAR 在性能与多样性间取得更好平衡。