★ 3
Rouge 框架用 KL 正则路由实现 LLM 按需推理
论文提出 Route-and-Generate（Rouge）分层训练框架，让 LLM 按输入自适应决定推理量。路由策略在多种推理格式间分配固定采样预算，基础模型用 GRPO 与逐样本奖励优化，并以基于排名的奖励偏好更短的正确答案。路由策略通过闭式 KL 正则策略改进步骤蒸馏进神经路由器，在多个推理…
arXiv cs.AI10 天前
#LLM 训练
共 7 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
SpaRLax 提出面向 LLM 推理的稀疏强化学习松弛方法
论文针对软思维链（soft CoT）训练难题，提出 SpaRLax 稀疏松弛方法，利用软推理在时间步上的可微性传播梯度，使训练更稳定。方法采用 entmax 稀疏化自适应决定软化程度，在自信步骤截断长尾噪声、不确定时保留多个候选。在九个推理基准上平均表现最优。
arXiv cs.AI12 天前
★ 3
研究称 LLM 训练阶段切换优化器代价有限
论文从零预训练 1.2B Llama-3 模型，系统研究 AdamW 与 Muon 在预训练、继续预训练和 SFT 阶段切换的影响。结果显示几乎不存在明显的优化器错配惩罚，后训练优化器选择可基本独立于预训练优化器。
arXiv cs.LG14 天前
★ 2
MathMixup 提出课程学习与分解方法提升 LLM 数学推理
arXiv 论文 MathMixup 提出结合课程学习与问题分解的方法，用于提升大语言模型的数学推理能力。该工作聚焦训练数据构造与推理路径拆解，属于 LLM 推理能力优化的学术研究。
Hacker News – LLM5 天前
★ 2
arXiv 论文：内层优化器如何影响副本扩展性能
论文研究在地理分布式算力池训练 LLM 时，内层优化器选择对副本扩展（replica scaling）性能的影响。作者识别出伪梯度协方差结构与批大小对噪声尺度的影响两个关键因素，理论并实证表明基于白化的预条件是有力的内层优化器特性。白化内层优化器在 8-96 副本下实现强副本扩展，且随参数与数据规…
arXiv cs.LG18 天前
★ 2
Spectra 推出优化器，将 LLM 训练显存降低 50%
Spectra Labs 发布 SpectraAdamW，一种混合优化器，通过因子化方差近似与频域动量压缩，将优化器状态显存开销减少约 50%，同时保持全精度收敛行为。该优化器可作为 torch.optim.AdamW 的一行替换，目前提供 PyTorch MVP，C++ CUDA 后端处于封闭测…
Hacker News – LLM23 天前
★ 1
freeCodeCamp 发布 CPU 训练 2500 万参数 LLM 教程
freeCodeCamp 发布一篇技术教程，讲解如何在普通 CPU 上从零构建并训练一个 2500 万参数的小型语言模型。该内容面向想理解 LLM 底层训练流程的开发者，强调无需 GPU 即可动手实践。
Hacker News – LLM24 天前
这个主题的相关资产
相关公司Ollama1