★ 3
研究：用专家选择偏置缓解 MoE 数据不均衡
论文提出按类别条件设置专家选择偏置，将不同类别 token 优先路由到专门专家池，从而为数据稀缺的类别过度分配专家容量。在最高 106 亿参数模型上，该方法在多模态、低资源语言与代码任务上均取得提升，且保持标准 MoE 推理。
arXiv NLP21 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出按类别条件设置专家选择偏置，将不同类别 token 优先路由到专门专家池，从而为数据稀缺的类别过度分配专家容量。在最高 106 亿参数模型上，该方法在多模态、低资源语言与代码任务上均取得提升，且保持标准 MoE 推理。