★ 3
CounterRoute:分层反事实信用分配的自路由推理
推理模型在直接作答即可时仍生成冗长思维链,浪费推理算力。论文提出CounterRoute,一种在线强化学习框架,从原生双模式检查点出发在同一策略中联合学习路由与模式条件响应,无需特定SFT预热。成对当前策略反事实rollout仅将跨模式信用分配给路由token,模式内用GRPO训练响应token。…
arXiv cs.AI38 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
推理模型在直接作答即可时仍生成冗长思维链,浪费推理算力。论文提出CounterRoute,一种在线强化学习框架,从原生双模式检查点出发在同一策略中联合学习路由与模式条件响应,无需特定SFT预热。成对当前策略反事实rollout仅将跨模式信用分配给路由token,模式内用GRPO训练响应token。…
论文提出 EDWARD-NMT,一种面向「一次训练、随处部署」的 MoE 编码器-解码器架构,可在推理时暴露多个可部署子网络。其创新包括 Matryoshka 式弹性维度、带学习阈值的自适应 sigmoid 路由,以及双一致性目标。在 PhoMT、WMT-14、OPUS-16 等基准上,全容量架构…