★ 3
专家隔离与关停实现LLM后门遏制
研究者提出「学习但分流」的新策略，通过Quarantined Expert Shutdown（QES）在类MoE结构中把触发条件行为引导至可隔离的专家分支。部署时只需将隔离专家的路由权重置零即可缓解后门，无需触发筛查或更新权重。实验在两类任务、三种攻击、四个模型家族上把攻击成功率从100%降至0-…
arXiv cs.AI31 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者提出「学习但分流」的新策略，通过Quarantined Expert Shutdown（QES）在类MoE结构中把触发条件行为引导至可隔离的专家分支。部署时只需将隔离专家的路由权重置零即可缓解后门，无需触发筛查或更新权重。实验在两类任务、三种攻击、四个模型家族上把攻击成功率从100%降至0-…