★ 3
联邦LLM微调的隐私保护拆分学习新方法
论文针对拆分学习与联邦学习结合下大模型微调的隐私悖论，指出自回归特性使传输激活泄露输入，现有扰动防御失效。提出可学习的混淆-恢复方案，在保护参与者私有数据的同时允许服务器训练可独立部署的模型，实现较强隐私保护且效用与系统开销损失有限。
arXiv cs.LG53 天前
#拆分学习
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
arXiv 论文首次系统定义拆分联邦遗忘学习并提出 SURE 方法
论文首次系统形式化拆分联邦遗忘学习（SFU），涵盖客户端级与类别级移除、反事实重训练及分区特定更新约束，并从理论上刻画历史影响传播与遗忘可行性。作者提出 SURE 方法，结合双重重要性估计、选择性参数扰动与重要性引导恢复，在适度额外成本下接近模式匹配重训练效果。
arXiv cs.LG5 天前