★ 3
RAG-Stress 基准揭示检索增强生成易被误导证据带偏
研究者提出 RAG-Stress 诊断协议，通过固定问题与参考答案、篡改一条断言来诱导错误答案，测量模型在检索增强生成中的「误导率」。在 TriviaQA-RC、HotpotQA、SearchQA 及中英文 MedQA 上评测 15 个系统（API 模型、开源模型、强化学习搜索智能体）发现：优先采…
arXiv NLP24 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者提出 RAG-Stress 诊断协议，通过固定问题与参考答案、篡改一条断言来诱导错误答案，测量模型在检索增强生成中的「误导率」。在 TriviaQA-RC、HotpotQA、SearchQA 及中英文 MedQA 上评测 15 个系统（API 模型、开源模型、强化学习搜索智能体）发现：优先采…