★ 2
SPADE-KD 提出异构环境下点对点个性化蒸馏框架
论文提出 SPADE-KD,一个完全去中心化的模型蒸馏框架,通过自适应蒸馏与效用驱动的对等选择,在模型架构与数据分布均异构的环境下优化个性化而非全局性能。在联邦分类任务上,其损失更低、收敛更快,优于朴素去中心化蒸馏。
arXiv cs.LG13 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 SPADE-KD,一个完全去中心化的模型蒸馏框架,通过自适应蒸馏与效用驱动的对等选择,在模型架构与数据分布均异构的环境下优化个性化而非全局性能。在联邦分类任务上,其损失更低、收敛更快,优于朴素去中心化蒸馏。