★ 2
TWIN-MoE 提出两阶段专家内插补框架处理缺失模态
论文分析混合专家路由会形成专家条件表示邻域，并推导由局部特征离散度控制的插补误差界，据此提出两阶段专家内插补框架 TWIN：预插补在编码器嵌入空间生成上下文估计并做径向软裁剪，后插补在 MoE 后聚合同一样本内的专家条件表示。在四个缺失模态基准上取得最优性能且参数量显著更少。
arXiv cs.LG13 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文分析混合专家路由会形成专家条件表示邻域，并推导由局部特征离散度控制的插补误差界，据此提出两阶段专家内插补框架 TWIN：预插补在编码器嵌入空间生成上下文估计并做径向软裁剪，后插补在 MoE 后聚合同一样本内的专家条件表示。在四个缺失模态基准上取得最优性能且参数量显著更少。