★ 3
Rouge 框架用 KL 正则路由实现 LLM 按需推理
论文提出 Route-and-Generate（Rouge）分层训练框架，让 LLM 按输入自适应决定推理量。路由策略在多种推理格式间分配固定采样预算，基础模型用 GRPO 与逐样本奖励优化，并以基于排名的奖励偏好更短的正确答案。路由策略通过闭式 KL 正则策略改进步骤蒸馏进神经路由器，在多个推理…
arXiv cs.AI10 天前
#KL 正则
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出 Route-and-Generate（Rouge）分层训练框架，让 LLM 按输入自适应决定推理量。路由策略在多种推理格式间分配固定采样预算，基础模型用 GRPO 与逐样本奖励优化，并以基于排名的奖励偏好更短的正确答案。路由策略通过闭式 KL 正则策略改进步骤蒸馏进神经路由器，在多个推理…