#语义覆盖层

论文提出语义叠加层防御提示注入攻击

论文提出语义覆盖层技术，通过在冻结模型的残差流上添加小型学习适配器，为文本跨度提供带外注释通道，从而缓解提示注入攻击。实验显示，该方法在SEP基准上将分离率从24.3%提升至96.5%，同时保持效用不变，攻击成功率显著下降。