★ 4
论文提出语义叠加层防御提示注入攻击
论文提出语义覆盖层技术,通过在冻结模型的残差流上添加小型学习适配器,为文本跨度提供带外注释通道,从而缓解提示注入攻击。实验显示,该方法在SEP基准上将分离率从24.3%提升至96.5%,同时保持效用不变,攻击成功率显著下降。
arXiv cs.AI68 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出语义覆盖层技术,通过在冻结模型的残差流上添加小型学习适配器,为文本跨度提供带外注释通道,从而缓解提示注入攻击。实验显示,该方法在SEP基准上将分离率从24.3%提升至96.5%,同时保持效用不变,攻击成功率显著下降。
论文提出MaP统一框架,通过将多轮GUI交互建模为轨迹并以组件掩码预测定义训练目标,把优化从任务特定边缘分布转为一致目标,缓解梯度冲突。同时设计角色感知适配器学习模块处理数据异质性,在五个GUI导航基准上显著优于直接混合训练。
论文针对共享资源预算下同时服务多个 LoRA 适配器的场景,提出功能秩分配(FRA)方法,把压缩建模为适配器内跨层与集群内跨适配器的两级秩分配问题。FRA 通过端到端测量模块截断效果并结合谱提议,在 78 个适配器上改善了最差情况与尾部效用。