技术基础术语

混合专家(MoE (Mixture of Experts))

一种模型架构:将网络拆分为多个「专家」,每次推理只激活部分专家,兼顾容量与效率。

收录于 2026/8/27相关资讯 144 篇近 30 天 95 篇在词典中查看 →

详细解释

MoE 通过门控网络(router)为每个 token 选择最合适的专家子集。相比稠密模型,能以更低计算成本获得更大参数量。代表如 Mixtral、DeepSeek-V3。

别名与相关写法
moemixture of experts专家稀疏混合专家MoE (Mixture of Experts)MoEMixture-of-Experts

相关术语

Attention共现 11 篇
论文共现 9 篇
Pruning共现 7 篇
Sparse Attention共现 6 篇
inference共现 6 篇
Decoding共现 6 篇

相关公司

相关资讯

完整术语表见 AI 术语词典; 每日新术语与进展见 AI 早报。

混合专家(MoE (Mixture of Experts)) 是什么?AI 术语解释 - 智讯 AI News