模型
Router Logit（路由 logit）
路由logit是混合专家模型中路由器输出的未归一化分数，决定每个专家被选中的概率。
详细解释
在混合专家（MoE）架构中，路由器根据输入计算每个专家的logit，经softmax得到权重，通常只激活top-k专家。路由logit的质量影响负载均衡和模型效果，训练时需避免专家坍缩，常用辅助损失鼓励均匀路由。
别名与相关写法
router logit
路由logit是混合专家模型中路由器输出的未归一化分数，决定每个专家被选中的概率。
在混合专家（MoE）架构中，路由器根据输入计算每个专家的logit，经softmax得到权重，通常只激活top-k专家。路由logit的质量影响负载均衡和模型效果，训练时需避免专家坍缩，常用辅助损失鼓励均匀路由。