★ 3
ExPPO:保留探索的策略优化方法
论文提出 Exploration-Preserving Policy Optimization(ExPPO),一种轻量级优势塑形规则,利用提示相对、长度归一化的响应惊讶度与通过率重新分配信用。该方法在保持验证器极性的同时维持每组绝对优势质量,理论分析给出熵与正确模式发现提升的局部条件。实验显示域内…
arXiv cs.AI27 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 Exploration-Preserving Policy Optimization(ExPPO),一种轻量级优势塑形规则,利用提示相对、长度归一化的响应惊讶度与通过率重新分配信用。该方法在保持验证器极性的同时维持每组绝对优势质量,理论分析给出熵与正确模式发现提升的局部条件。实验显示域内…
论文提出最小干预强化学习 MInTRL,在在线策略 rollout 中通过稀疏局部干预扩展探索前沿,并用序列级优势回归目标避免重要性采样。在数学与代码基准上持续优于在线与离策略基线,性能在中等干预强度时达到峰值。