★ 3
NGU：让LLM强化学习永不放弃难题
论文指出LLM的RL训练存在马太效应：简单题提升大、难题提升小，原因是算力被浪费在简单题上。作者提出Never Give Up自适应采样方法，持续为同一问题生成样本直到答对，借助异步RL把算力重新分配给难题，在Deepscaler数学基准与Manufactoria编码任务上提升单位算力表现。
arXiv cs.LG48 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文指出LLM的RL训练存在马太效应：简单题提升大、难题提升小，原因是算力被浪费在简单题上。作者提出Never Give Up自适应采样方法，持续为同一问题生成样本直到答对，借助异步RL把算力重新分配给难题，在Deepscaler数学基准与Manufactoria编码任务上提升单位算力表现。