#激活泄露

联邦LLM微调的隐私保护拆分学习新方法

论文针对拆分学习与联邦学习结合下大模型微调的隐私悖论，指出自回归特性使传输激活泄露输入，现有扰动防御失效。提出可学习的混淆-恢复方案，在保护参与者私有数据的同时允许服务器训练可独立部署的模型，实现较强隐私保护且效用与系统开销损失有限。