★ 4
研究提出有效性感知的 LLM 越狱评估方法
该研究提出SEAV框架，通过分解响应步骤并验证事实正确性，解决现有越狱评估中依赖语言合理性而忽视正确性的问题。实验表明，SEAV在多个基准上将越狱成功样本重新分类为无效，显著重塑了鲁棒性评估结果。
arXiv cs.AI61 天前
#事实核查
共 15 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
研究：AI 引用的统计数据仅 40% 可追溯到原始研究
一项分析发现，AI 回答中引用的统计数据只有约 40% 能追溯到对应的原始研究，其余来源不明或无法核实。该结果凸显 AI 生成内容在事实溯源与可信度方面的隐患。
Hacker News3 天前
★ 3
政府 AI 聊天机器人被改程序以停止核查总统言论
The New Republic 报道称，美国政府 AI 聊天机器人被重新编程，不再对总统相关陈述进行事实核查。此举引发对政府 AI 工具中立性与信息可信度的担忧。
Hacker News – AI32 天前
★ 3
America.gov 翻车：特朗普力捧的 AI 聊天机器人给出反特朗普答案
特朗普高调推出的政府 AI 聊天机器人 America.gov 因引用官方来源，反而给出与其本人说法相悖的答案，如确认拜登赢得 2020 年大选。多位民主党议员借机发难，社交媒体也掀起嘲讽热潮。
快公司32 天前
★ 3
CoVer：冲突感知的声明验证框架
研究提出ContraNote数据集和CoVer框架，用于处理社交媒体事实核查中的证据冲突。CoVer通过三阶段流程优先处理证据，在多个基准上达到高准确率，显著优于现有方法。
arXiv cs.AI61 天前
★ 3
基于强化学习增强智能体搜索的生成生物医学事实核查报告
该研究提出BioCheck Agent，通过智能体搜索生成结构化生物医学事实核查报告，而非仅输出标签。它利用PubMed高级布尔搜索，并采用证据接地组相对策略优化（EG-GRPO）进行强化学习，在SciFact上标签预测准确率提升9.95%，证据质量分数提高3.7%，证据幻觉率降低19.63%。
arXiv cs.AI68 天前
★ 3
Bespoke-Minicheck 减少幻觉
Bespoke Labs 推出 Bespoke-Minicheck，一种基于事实核查的模型，现已在 Ollama 上可用。它可以核查其他模型生成的回答，以检测并减少幻觉。
Ollama Blog775 天前
★ 2
研究提出 PERPL 框架，按读者偏好个性化改写事实核查解释
论文提出「忠实个性化事实核查解释改写」任务，在不改变事实结论前提下适配不同读者。方法 PERPL 通过跨人格互配对从 LLM 模拟读者偏好中构建监督信号，再用探索引导的偏好优化训练轻量改写器。实验显示其在个性化偏好对齐上优于更大通用模型，并保持高事实忠实度。
arXiv NLP5 天前
★ 2
开发者自建 AI 机器人核查中期选举信息，分享经验教训
一位开发者撰文介绍其为美国中期选举搭建的 AI 事实核查机器人，并总结在信息核查准确性、数据来源与误判风险方面的实践经验。
Hacker News – AI9 天前
★ 2
JSFactCheckBench 发布：日文基准重估 LLM 事实核查
研究者推出 JSFactCheckBench，一个明确指定问题归属、判定条件与证据来源三项设计的日文事实核查基准，含 1913 条来自日本社交媒体误导信息的 LLM 回答声明。测试 6 个 LLM 发现，模型核查直接回答问题的声明准确率低于补充性声明，且需在长文或多源中定位内容时得分下降。
arXiv NLP10 天前
★ 2
arXiv 论文：PremiseCheck 审稿意见事实核查
论文提出 ReviewFact 基准，用于标注人类与 AI 审稿意见中的事实性错误，并衡量成本与延迟。其 PremiseCheck 框架让 LLM 将评论改写为显式前提、再由决策模型逐条核对论文，在三个领域达到与 GPT-5.5 相当的准确率，成本约为其一半，NLP 审稿场景成本仅四分之一。
arXiv NLP17 天前
★ 2
CWF：个性化可靠科普写作框架
提出个性化可靠科普写作任务，并构建数据集和基准PSCB，同时评估受众适应性和事实准确性。引入DA-MoE解耦受众适应与领域知识，并通过多智能体事实核查机制增强证据稀缺场景下的验证。实验表明方法达到最先进性能。
arXiv cs.AI54 天前
★ 1
Versuscraft 推出开发者工具 AI 对比事实核查帖
Versuscraft 上线一个面向开发工具的 AI 对比内容站点，主打对比较结论做事实核查。它试图解决 AI 工具评测中夸大与失实的问题，为开发者选型提供可验证参考。目前项目在 Hacker News 上关注度极低。
Hacker News – AI13 小时前
★ 1
开发者推出可核查日期的 AI 引用检查器 CitySignal
名为 CitySignal 的网站上线，提供带日期、可逐条核查的 AI 引用检查工具，明确不做虚假排名。该工具面向需要验证 AI 生成内容引用来源真实性的用户，属于小规模开发者作品。
Hacker News – AI6 天前
★ 1
All-In 播客观点被 AI 逐条核查
一个网页项目用 AI 对 All-In 播客中的主张逐条进行事实核查，标注证据与偏差。此类自动化核查工具展示了 AI 在媒体内容审校中的应用潜力，同时也引发对核查准确性与立场偏见的讨论。
Hacker News – AI15 天前
这个主题的相关资产
相关公司Bespoke Labs1