★ 3
决策模型低成本识别 RAG 知识冲突类型，准确率比肩 Gemini
论文研究用单次前向输出概率的决策模型对 RAG 检索源冲突类型分类，在 CONFLICTS 基准上 11 个决策模型准确率 50%–67%，其中 10 个达到或超过 Gemini 2.5 Flash 的 61.3%，成本低 4–39 倍、延迟低 2.6–6 倍。将低置信查询级联给 Gemini 3…
arXiv NLP5 天前
#知识冲突
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
论文：RAG 知识冲突不应靠固定规则，需引入先验
论文指出检索增强模型在上下文与自身知识冲突时，现有方法都用设计时固定的规则裁决，而任何固定规则在某些部署下都会自信地出错。作者提出需同时保留两路来源证据与「上下文正确率」先验，并在 GRACE 基准上构建对应系统。在 Qwen3.5-35B-A3B 与 Llama-3.1-8B 上总分 45.3 …
arXiv cs.AI5 天前
★ 3
研究比较Llama、Qwen、Gemma指令微调对知识冲突回路的影响
研究首次对基础模型与指令微调模型的知识冲突解决回路进行机制性对比，覆盖 Llama-3.2-3B、Qwen-2.5-3B、Gemma-3-4B 三个模型家族。五种独立方法一致表明，指令微调并未重建回路，而是对同一批后层注意力头进行重新加权（节点重叠度 0.60-0.82）。行为上模型更倾向参数记忆…
arXiv cs.LG40 天前
★ 3
KC-Bench：评估LLM智能体知识冲突处理
KC-Bench是一个动态交互基准，用于评估LLM智能体在工具使用中处理知识冲突的能力，涵盖世界知识冲突、输入不一致和时间冲突。238个任务经人工筛选，结合用户模拟器和状态工具。评估九个模型显示，没有模型能在所有场景可靠处理事实纠正、身份一致性检查和时间冲突解决，且遗漏冲突可能传播至工具调用。
arXiv cs.AI59 天前
★ 2
TRACE：面向知识冲突的RAG鲁棒微调框架
针对检索增强生成中外部知识与模型参数知识冲突的问题，论文提出TRACE微调框架，利用多智能体辩论轨迹提取正确与错误候选答案及答案漂移模式，提供细粒度监督。同时设计答案完整性正则化机制，通过答案尾部token强化与提前终止抑制，减少空答案和过短回答。实验表明该方法提升了知识源选择能力与冲突鲁棒性。
arXiv cs.LG35 天前