★ 3
研究指 ASR 指标掩盖 RAG 投毒防御真实效果
论文指出检索增强生成（RAG）防御评估过度依赖攻击成功率（ASR），会掩盖防御自身引入的失败。作者提出 Aligned RAG Evaluation 匹配查询协议，联合考察干净与投毒响应，在 HotpotQA 与 Natural Questions 上发现现有防御虽能阻止部分攻击，却会引入意外的目…
arXiv NLP4 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文指出检索增强生成（RAG）防御评估过度依赖攻击成功率（ASR），会掩盖防御自身引入的失败。作者提出 Aligned RAG Evaluation 匹配查询协议，联合考察干净与投毒响应，在 HotpotQA 与 Natural Questions 上发现现有防御虽能阻止部分攻击，却会引入意外的目…