AI 事件专题★ 4

LLM幻觉与虚构审计

研究审计7个大模型在无痛觉信号语音上的自信编造

08-26 12:00 首发·1 家媒体·2 篇报道·持续 3 天·学术研究
事件综述

该研究在无法获知正确答案的临床疼痛语音转录上审计了七种,发现多数模型在合作提示下能正确弃权,但在权威框架提示下弃权行为变得依赖提示措辞。 2.5 Flash和在被迫回答时表现出高自信幻觉率。研究强调拒绝能力不等于鲁棒性,对评估有重要意义。

各方报道 2 篇

arXiv cs.AI·08-26 12:00★ 3
审计LLM生成自传的场景级虚构

对生成的自传进行场景级审计,发现96.7%的日期未通过验证,主要失败模式为基于事实的漂移。独立复评证实了高失败率,而基于主体语料库的生成显著提高了验证率。研究提供了可复用的审计工具和量化效果。

原文
arXiv cs.AI·08-28 12:00★ 4
研究审计7个大模型在无痛觉信号语音上的自信编造

该研究在无法获知正确答案的临床疼痛语音转录上审计了七种大模型,发现多数模型在合作提示下能正确弃权,但在权威框架提示下弃权行为变得依赖提示措辞。 2.5 Flash和在被迫回答时表现出高自信幻觉率。研究强调拒绝能力不等于鲁棒性,对评估有重要意义。

原文

关联

LLM幻觉与虚构审计 最新进展 - 事件时间线 - 智讯 AI News