★ 3
RAG-NAROK:面向检索感知的RAG知识库投毒攻击
论文指出RAG系统依赖动态检索管线,带来一类未被充分探索的对抗漏洞。现有知识库投毒攻击是静态的,而RAG-NAROK能根据查询文本自适应,先提取合法来源身份,再生成针对性的反驳文档以贬低被检索来源,利用时效与权威偏见引导生成目标答案。结果显示其显著优于静态基线,揭示RAG透明度与AI安全之间的张力。
arXiv cs.AI40 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文指出RAG系统依赖动态检索管线,带来一类未被充分探索的对抗漏洞。现有知识库投毒攻击是静态的,而RAG-NAROK能根据查询文本自适应,先提取合法来源身份,再生成针对性的反驳文档以贬低被检索来源,利用时效与权威偏见引导生成目标答案。结果显示其显著优于静态基线,揭示RAG透明度与AI安全之间的张力。