★ 4
研究：MoE路由遥测泄露微调成员隐私
论文揭示混合专家（MoE）模型推理时产生的路由信息可被用于成员推断攻击。研究者提出路由增强的成员推断攻击，结合输出信号与聚合路由特征，在三种MoE架构和三个数据域上均将1%假阳性率下的真阳性率提升2.7至9.4个百分点。该泄露在完全微调、冻结路由、LoRA和指令微调下均存在，表明路由遥测成为微调M…
arXiv cs.LG24 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文揭示混合专家（MoE）模型推理时产生的路由信息可被用于成员推断攻击。研究者提出路由增强的成员推断攻击，结合输出信号与聚合路由特征，在三种MoE架构和三个数据域上均将1%假阳性率下的真阳性率提升2.7至9.4个百分点。该泄露在完全微调、冻结路由、LoRA和指令微调下均存在，表明路由遥测成为微调M…
论文在六个临床数据集、四种模态共7789个模型上测量每位患者对成员推断攻击的脆弱性，发现队列平均风险看似可忽略，但高风险患者在不同训练配置下高度稳定。作者据此开发用四个小模型提前筛查高风险患者的轻量工具，建议将隐私筛查纳入临床AI数据准备流程。