各方报道 1 篇
arXiv NLP·10-19 12:00★ 3
研究揭示不确定性衡量 RAG 幻觉风险的条件性
原文 论文在 HotpotQA 与 SQuAD 上测试四个指令微调模型，发现不确定性只有在检索证据能约束答案时才能有效衡量 RAG 幻觉风险。困惑度在针对性无支撑编辑上达到 0.81-0.91 AUROC，检索深度变化会改变该分数的含义，结合语义漂移可改善校准。
论文在 HotpotQA 与 SQuAD 上测试四个指令微调模型，发现不确定性只有在检索证据能约束答案时才能有效衡量 RAG 幻觉风险。困惑度在针对性无支撑编辑上达到 0.81-0.91 AUROC，检索深度变化会改变该分数的含义，结合语义漂移可改善校准。