★ 4
评分量表漏检医疗 AI 幻觉盲区
研究构建了医疗幻觉类型分类与经临床医生验证的错误注入流水线，在 HealthBench、HealthBench Professional 和 LiveMedBench 上测试发现，具有临床相关性的幻觉常被评分量表漏掉，分数几乎不变。量表在显式核查事实时最有效，对未预期的额外错误则失效；初步的检索式…
arXiv cs.AI49 天前
#幻觉检测
共 19 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
研究：决策模型可作低成本幻觉检测裁判，部分类型仍不及 GPT-6 Sol
论文构建覆盖五类幻觉的二元基准（6 个数据集 9852 条），比较五个决策模型与生成式裁判 gpt-6-sol。最佳决策模型在上下文不一致上与 gpt-6-sol 持平、事实错误差 3 个百分点，但逻辑与指令不一致落后 4-8 个百分点。决策模型置信度偏高，级联方案可在 1-3% 成本下追平或超过…
arXiv NLP5 天前
★ 3
Mycelium：幻觉检测基准的来源、类型与粒度元研究
arXiv 论文将幻觉检测视为受基准条件制约的测量问题，沿来源、类型学、粒度三轴梳理现有基准，分析基准构建与标注选择如何塑造预测任务。作者还提出基于包含关系的 Span Coverage F1 指标，指出跨基准比较的局限，呼吁更明确地评估泛化性。
arXiv NLP6 天前
★ 3
表征签名自适应迁移提升 LLM 幻觉与推理错误检测
研究者提出跨领域迁移表征签名的统计框架，先提取各领域低维签名，再用交叉拟合学习领域预测器的组合权重。实验显示，新领域仅需 25 条标注问题，幻觉检测 AUROC 提升 6.8%，推理步骤预测提升 8.4%。该方法缓解了质量检测器对领域标注数据的依赖。
arXiv NLP6 天前
★ 3
SOPO：苏格拉底式策略优化提升片段级幻觉检测
研究者提出 SOPO（苏格拉底引导的策略优化），一种多轮强化学习框架，用于片段级幻觉检测。它通过教师模型提供间接提示引导推理轨迹，缓解难例奖励稀疏问题，并用轮次优势缩放抑制冗长。在 RAGTruth 上，4B 版本超越 GPT-5 等专有模型与标准 RL 基线，代码与 1.7B、4B 模型已开源。
arXiv NLP7 天前
★ 3
研究揭示不确定性衡量 RAG 幻觉风险的条件性
论文在 HotpotQA 与 SQuAD 上测试四个指令微调模型，发现不确定性只有在检索证据能约束答案时才能有效衡量 RAG 幻觉风险。困惑度在针对性无支撑编辑上达到 0.81-0.91 AUROC，检索深度变化会改变该分数的含义，结合语义漂移可改善校准。
arXiv NLP14 天前
★ 3
PARCEL：法律幻觉检测的声明级基准
论文提出 PARCEL 基准，用于检验法律主张是否被所引权威来源支持。基于纽约州上诉法院近期判决构建 3,396 条括注式主张，标注为支持、反驳或未找到，并作为三分类自然语言推理任务评测多个前沿 LLM。最强模型准确率达 0.97，但仍会把无支撑主张误判为有支撑，且伪造但看似合理的引证导致性能下降…
arXiv NLP24 天前
★ 3
用注意力图拓扑特征检测 LLM 幻觉
论文分析注意力图的信息流拓扑，利用 Forman-Ricci 曲率识别信息瓶颈，提出单次前向的幻觉检测方法。在多个 LLM 与两个幻觉检测基准上持续优于现有基于注意力和多响应基线，发现幻觉与 token 间上下文共享受损、过度依赖自注意力及信息过度压缩相关。
arXiv cs.AI42 天前
★ 3
HalluPeer：科学同行评审幻觉检测基准
HalluPeer是首个针对科学同行评审的幻觉检测基准，提供论文内容、人工评审和注入幻觉的评审三元组，并标注检测、分类和定位。实验基于1.2万篇论文和3.8万条评审，发现现有检测器难以区分幻觉与合理批评，且真实评审中存在定义的幻觉模式，凸显了来源感知验证的必要性。
arXiv cs.AI59 天前
★ 2
CHORD 提出跨模型幻觉检测新框架
论文提出 CHORD，一种基于关系图判别的跨模型幻觉检测框架，解决不同 LLM 隐状态语义不一致导致的检测器迁移难题。方法将层、token、特征建模为联合关系图，结合关系感知注意力与元学习提取可迁移信号。实验显示其在跨模型泛化上优于代表性检测方法，代码已开源。
arXiv cs.AI3 天前
★ 2
研究比较人工、LLM 生成与数据推导本体作为知识图谱智能体检查器
论文把本体检查器本身作为研究对象，比较人工整理、LLM 生成与数据推导三类本体在提示上下文、检查器或两者兼用时的表现，覆盖开源与闭源智能体及近 10^9 三元组的私有图谱。结果显示人工本体在 UniProt 上标记出更多正确答案，但在真实智能体回答上其标记精确度仅略高于随机。
arXiv cs.AI3 天前
★ 2
LOTUS：低秩多线性分解检测大模型幻觉
该论文提出 LOTUS（低秩阶统计 Tucker 子空间学习）框架，通过多线性低秩分解从大模型隐藏状态中提取紧凑表征，用于幻觉检测。方法先用统计描述子汇总变长 token 表征，再以低秩分解捕捉跨层结构，训练轻量分类器。实验在多个大模型与问答基准上优于现有最优基线，并降低对标注数据的依赖。
arXiv NLP5 天前
★ 2
CiteAnchor 框架发布：检测并溯源 AI 幻觉引用
研究者提出 CiteAnchor，一个按来源类型自适应检索与字段校验的引用溯源框架，可分别判定引用有效性与能否找回唯一来源，并配套发布 423 条真实幻觉引用基准 CiteResolve。在 GPT-5.6 Luna 上检测 F1 达 0.841，端到端任务成功率 74.7%，显著超过网页搜索基线。
arXiv NLP10 天前
★ 2
孟加拉语幻觉检测系统：检索加程序执行，Kaggle 私有 F1 达 0.956
论文描述一个仅推理的孟加拉语幻觉检测系统，结合查询改写、混合检索与任务专用模型评判，六条检索路径由路由器分派给 27B 文本评判器或可执行 Python 的 14B 智能体。该系统在 Olikbochon 挑战赛取得 0.956 的私有 macro-F1，但作者审计发现 1090 条语料中有 38…
arXiv NLP14 天前
★ 2
alkhder 团队提出多模态幻觉检测方案，CI 降低逾八成
该论文介绍 ImageEval 2026 子任务 1b 的参赛方案：从三条候选陈述中选出与图像唯一匹配的一条，覆盖英语与现代标准阿拉伯语。系统使用 7B 视觉语言模型零样本推理，将任务建模为受限选择问题，用下一 token 对数概率打分，并用拉丁方轮换候选顺序以降低位置偏差。英语测试集 CI 为 …
arXiv NLP14 天前
★ 2
Council AI 上线：识别主流 AI 模型的偏见与幻觉
开发者发布 Council AI，一款用于识别主流 AI 模型中偏见与幻觉的工具，并提供示例页面展示 AI 在 2026 年的最佳与最差表现。产品面向模型输出质量与可信度审查。
Hacker News – AI17 天前
★ 2
EGKE：基于嵌入图核熵的LLM幻觉检测方法
该论文提出 Embedding Graph Kernel Entropy（EGKE），用 BGE 句嵌入上的 RBF 核替换 Kernel Language Entropy 中依赖 NLI 分类器的语义图，保留图拉普拉斯、热核与冯诺依曼熵框架。方法在连续嵌入空间中直接计算相似度，避免额外加载 NL…
arXiv cs.LG19 天前
★ 2
僧伽罗语到英语机器翻译幻觉检测框架
研究者针对僧伽罗语到英语低资源翻译中的幻觉问题，提出无参考幻觉检测框架，构建了 4.5 万样本合成数据集。微调的 mDeBERTa-v3 在令牌级 F1 达 0.841，三信号集成在句子级 AUROC 达 0.970。基准测试显示八种 NMT 系统的检测触发率相差一个数量级。
arXiv NLP24 天前
★ 1
VeriQuote：针对幻觉的 LLM 验证流水线
开发者发布 VeriQuote，一个针对大模型幻觉的验证流水线工具，用于核验 LLM 输出内容的真实性。该工具在 Hacker News 的 Show HN 板块发布，目前讨论较少。
Hacker News – LLM25 天前
这个主题的相关资产
相关公司Perplexity1
相关术语幻觉检测