★ 3
ESRL:用进化策略实现持续测试时学习
论文指出测试时自适应依赖单一策略自生成监督,策略漂移会导致学习信号漂移、推理退化与灾难性遗忘。作者提出进化策略强化学习(ESRL),从参数空间扰动形成策略种群,聚合各轨迹答案生成无标签组相对学习信号。在数学推理、通用知识与医疗领域,平均准确率较基座模型最高提升 31.7%,并显著减少遗忘。
arXiv cs.LG13 天前
共 4 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文指出测试时自适应依赖单一策略自生成监督,策略漂移会导致学习信号漂移、推理退化与灾难性遗忘。作者提出进化策略强化学习(ESRL),从参数空间扰动形成策略种群,聚合各轨迹答案生成无标签组相对学习信号。在数学推理、通用知识与医疗领域,平均准确率较基座模型最高提升 31.7%,并显著减少遗忘。
论文针对进化策略(ES)微调大模型时奖励均匀平均、难以反映题目学习价值变化的问题,提出 DART-ES。该方法根据扰动群体的通过率估计题目难度状态,联合指导难度重加权与稀有可解样本回放。实验在五个基座模型上均优于 ES,GSM8K 平均准确率从 72.07% 提升至 73.53%,且相比 GRPO…
论文提出Hill采样,一种简单程序:从冻结LLM反复采样候选程序编辑,保留当前最优程序并以其为条件继续采样。在圆填充、集合和差及Erdos最小重叠问题上,Hill采样在圆填充上创下已发表方法新纪录,超越AlphaEvolve参考结果。研究还发现直接学习LLM权重的进化策略不如将学习率设为零,表明重…
一篇 arXiv 论文提出有界陈旧度异步进化策略(bounded-staleness asynchronous ES),用于 LLM 长程智能体后训练。在 Endless Terminals 基准上以 Qwen2.5-7B-Instruct 测试,自然异步 Async-1 的留出成功率 25.9%…