★ 3
AdaC-GRPO：自适应课程强化学习攻克长程视觉数独
研究者提出 FG-Sudoku 细粒度基准，按网格大小与推理步数分级，发现前沿多模态大模型在 9×9 长程依赖数独上近乎零成功率，导致标准 RLVR 奖励稀疏而失效。为此提出 AdaC-GRPO，通过在线 rollout 准确率追踪模型「最近发展区」动态构建训练批次。实验显示其使 Qwen2.5-…
arXiv cs.AI21 天前
#课程学习
共 13 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
算法草稿本与课程分级提升微型Transformer算术推理
论文研究约1060万参数Tiny Transformer在多步算术任务中的机制，发现数据加载填充会造成83%梯度饥饿、语言预训练是必要前提，现代架构组件与稀疏MoE可提升加法推理。引入逐位长除法草稿本与四阶段课程后，单位数除法准确率从4.0%提升至86.7%。
arXiv cs.LG25 天前
★ 3
LoT 框架用渐进简化推理轨迹提升小模型推理
论文提出 Ladders-of-Thought（LoT）框架，通过渐进式问题改写与自演化课程提升中小规模模型推理能力。LoT 自动生成语义一致但更简单的推理问题变体，按步骤难度分桶，并用自演化 bandit 调度器自适应分配训练。在 1-8B 模型上，LoT 在算术任务上最多提升 32 个百分点，…
arXiv cs.AI40 天前
★ 3
新框架ATC：无需思维链监督提升LLM推理
论文提出抽象令牌课程（ATC），一种课程学习框架，无需显式思维链监督或人工草稿设计，通过逐步提升问题复杂度，让模型在连续表示空间中自发形成内部抽象「思维」。理论证明在单层 softmax 注意力学习奇偶函数时注意力会自然聚焦于提供最易预测路径的思维链令牌，实验在图可达性与算术任务上验证有效性。
arXiv cs.LG45 天前
★ 3
面向高效LLM压缩的逐层课程学习
论文提出逐层课程学习用于高效 LLM 压缩，将模型按层切分为多个片段，从易到难进行知识蒸馏，并基于累积误差理论分析加速收敛。作者还提出多线程特征缓存方法解决跨层特征错位问题。实验显示在 BERT 与 GPT-2 上 GPU 显存与训练时间减少超 50%，在 LLaMA 与 Qwen 系列上优于同类…
arXiv cs.LG45 天前
★ 3
研究揭示固定状态递归关联召回中的卷积与干扰墙
论文对固定状态循环模型（线性注意力与状态空间模型）的联想召回能力进行分解分析，发现短因果卷积是主导因素，而非循环结构本身。稀疏监督下的干扰而非容量是瓶颈，距离课程可将召回率从0.021提升至1.000。
arXiv cs.LG47 天前
★ 2
arXiv 论文提出课程驱动深度强化学习实现火箭远距离精准着陆
该论文提出一套课程驱动的深度强化学习框架，用于可复用运载火箭的远距离导航与垂直软着陆。方法采用三阶段课程、critic 预热与排练机制防止灾难性遗忘，并重新设计奖励函数。在 10 万回合实验中成功率达 99.98%，基线仅 68.31%，着陆点偏差 7.07 单位。
arXiv cs.LG5 天前
★ 2
MathMixup 提出课程学习与分解方法提升 LLM 数学推理
arXiv 论文 MathMixup 提出结合课程学习与问题分解的方法，用于提升大语言模型的数学推理能力。该工作聚焦训练数据构造与推理路径拆解，属于 LLM 推理能力优化的学术研究。
Hacker News – LLM5 天前
★ 2
ARMOR-DP：多语言 BabyLM 动态采样应对最弱语言漂移
arXiv 论文提出 ARMOR-DP 框架，指出多语言 BabyLM 训练中最弱语言会随训练变化，固定采样比例并不合理。框架从表征、曝光、容量与目标压力四方面诊断失衡，并用各语言验证损失动态更新采样。实验显示动态课程检查点优于静态中文保护基线，且所用中文轮次更少。
arXiv NLP6 天前
★ 2
研究：课程学习效果取决于奖励稀疏性与竞争最优解
论文构建并分析一个极简策略学习模型，考察课程学习在强化学习中为何比监督学习更有效。结果表明在稠密奖励下课程收益有限，而在稀疏奖励下课程学习可能是学习发生的必要条件，尤其当智能体同时追求省力与高奖励、形成相互竞争的最优解时。有效课程的作用在于降低奖励稀疏性并重塑奖励地形以避开坏的局部最优。
arXiv cs.LG7 天前
★ 2
NV-Tesseract-AD：课程学习增强的扩散异常检测
论文提出 NV-Tesseract-AD，将课程学习引入条件扩散框架用于多变量时间序列异常检测，沿掩码强度与扩散噪声两个轴由易到难训练。相比无课程基线，F1 提升约 3.7 倍、MSE 降低 56%，零样本在 NAB 达 F1=0.984、NormA 达 0.948；DPM-Solver++ 可将…
arXiv cs.LG21 天前
★ 2
RISED：智能体多环境选择与自蒸馏
论文关注在多种交互环境中联合训练单一 LLM 智能体以通向通用智能体。现有课程与数据选择策略多在环境层面分配训练，或依赖局部奖励信号，未显式考虑跨环境 rollout 之间的关系。作者提出 RISED，利用评分标准进行提示组选择与自蒸馏，以应对不同环境学习速率不一致导致的全失败/全成功组问题。
Apple Machine Learning Research27 天前
★ 2
对抗闭环课程：演化角色扮演智能体
论文指出角色扮演智能体的强化学习通常在固定场景池上训练，导致分布瓶颈。作者提出 AdvRole，一个对抗式上下文重写框架，将角色扮演强化学习变为闭环课程。Actor 学习角色扮演，Rewriter 将角色档案与对话上下文改写为针对 Actor 的困难场景，以性能差距奖励训练。在三个中英文基准及新发…
arXiv cs.AI38 天前