★ 3
Rouge 框架用 KL 正则路由实现 LLM 按需推理
论文提出 Route-and-Generate（Rouge）分层训练框架，让 LLM 按输入自适应决定推理量。路由策略在多种推理格式间分配固定采样预算，基础模型用 GRPO 与逐样本奖励优化，并以基于排名的奖励偏好更短的正确答案。路由策略通过闭式 KL 正则策略改进步骤蒸馏进神经路由器，在多个推理…
arXiv cs.AI10 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出 Route-and-Generate（Rouge）分层训练框架，让 LLM 按输入自适应决定推理量。路由策略在多种推理格式间分配固定采样预算，基础模型用 GRPO 与逐样本奖励优化，并以基于排名的奖励偏好更短的正确答案。路由策略通过闭式 KL 正则策略改进步骤蒸馏进神经路由器，在多个推理…
论文研究预测智能体在检索、推理、参考市场先验或历史类比之间如何选择，发现机制选择高度依赖证据来源。作者提出 ReliabilityRoute，用历史覆盖率、市场先验可用性、证据强度等可靠性特征引导智能体行为。结果显示更多推理并非总是更好，路由策略本身应在可审计约束下自适应。