★ 2
随机轮次回放缩小排练间隔偏差
论文研究类平衡回放中的「排练间隔」问题,提出随机轮次回放(RPR),每轮打乱遍历每个常驻类一次。RPR 在保持类边际平衡的同时将每个间隔上界限制为 2*ceil(C/b)-1,且不使用未来类信息、不增加回放样本或前向计算。在 ER-ACE 实验中相对独立类平衡检索提升最终平均准确率 0.72-1.…
arXiv cs.LG40 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文研究类平衡回放中的「排练间隔」问题,提出随机轮次回放(RPR),每轮打乱遍历每个常驻类一次。RPR 在保持类边际平衡的同时将每个间隔上界限制为 2*ceil(C/b)-1,且不使用未来类信息、不增加回放样本或前向计算。在 ER-ACE 实验中相对独立类平衡检索提升最终平均准确率 0.72-1.…
论文指出优先经验回放(PER)在随机环境中会扭曲同一状态-动作对下实际结果的分布,称之为「组内自选择」。作者将PER分解为组间分配与条件兄弟选择,并提出SAMPLE、AVG、MODEL三种固定缓冲区校正方法。在MinAtar的五个游戏中有四个缓解了均值保持奖励尾部下的性能退化。
论文针对可验证奖励强化学习(RLVR)在大型视觉语言模型中的优化瓶颈,指出视觉 grounding 推理轨迹在单次更新后即被丢弃、token 优势分配过于均匀。作者提出 PIVOT 双层学习框架,引入自校准经验回放与视觉引导优势分配机制。多基准实验显示其在多模态推理能力上表现极具竞争力。