★ 3
RRI：对抗元提示演化实现递归奖励改进
研究者提出 RRI（递归奖励改进）方法，在提议者-求解者自改进循环中引入奖励黑客对抗者来监督奖励生成。对抗者先写出钻评分标准空子的无用答案，再由同一模型在不看标准的情况下写出诚实答案，通过最多两步修复让诚实答案胜出，从而修正评分标准。在 HealthBench Professional 上，9B …
arXiv cs.AI17 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者提出 RRI（递归奖励改进）方法，在提议者-求解者自改进循环中引入奖励黑客对抗者来监督奖励生成。对抗者先写出钻评分标准空子的无用答案，再由同一模型在不看标准的情况下写出诚实答案，通过最多两步修复让诚实答案胜出，从而修正评分标准。在 HealthBench Professional 上，9B …