★ 3
arXiv 论文主张严格区分幻觉、语义错觉与表达不确定性
论文指出研究界对「幻觉」一词用法混乱，主张幻觉应严格定义为「自信地出错」，与模型表达不确定性（UNK）区分。作者用「重述测试」将幻觉细分为知识缺失的虚构（CF）与知识可及但应用不一致的语义错觉（SI）。重评 14 种方法发现：检测方法更常标记 UNK，缓解方法对 SI 远比对 CF 有效。
arXiv NLP3 天前
#不确定性
共 27 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
研究审计低成本内容审核模型：分歧与决策风险是两种不确定性
arXiv 论文对一类冻结的「System One」低成本内容审核模型做了首次独立审计，在 14.2 万条人工标注评论上对比 14 个前沿推理模型（GPT-5.x、Claude、Gemini 3、Grok）。结果显示该廉价模型零样本 AUROC 0.83，与 14 个前沿系统中 13 个无统计差异…
arXiv NLP6 天前
★ 3
可微信念函数层神经网络：用 Yager 规则表达「我不知道」
论文指出 Dempster 归一化项会在证据冲突时导致梯度发散，而 Yager 组合规则为双线性、无此问题。作者构建全链路 Dempster-Shafer 质量函数的深度证据网络，以无知集质量作为「我不知道」信号。该网络仅用硬标签训练，却能排序视觉与语言模态中的人类分歧，在 CIFAR-10H 高…
arXiv cs.AI10 天前
★ 3
UAA 框架为 LLM 树搜索按不确定性分配预算，省 90% token
研究指出树搜索中同一中间状态的续写高度重复，兄弟动作的语义分散度可预测下游冗余。作者提出免训练的不确定性感知分配（UAA），用分散度决定哪些候选值得扩展。在数学、逻辑与规划基准上，UAA 在精度相当的情况下最多减少 90% token 用量、延迟降低至多 9 倍，并适用于四种树搜索算法与开源/闭源…
arXiv NLP14 天前
★ 3
ChronoRegime：面向未来可预测性的时序推理框架 CTR
研究者提出 ChronoRegime 未来导向时序推理任务，要求模型判断历史时序证据是否足以支持对未来答案的承诺，并提出置信度感知时序推理框架 CTR。在多个 LLM 上，CTR 将严格总体准确率提升 6.7 个百分点，平均降低幻觉率 18.4 个百分点。
arXiv NLP19 天前
★ 3
主动智能体的不确定性路由框架PROUR
论文指出工具调用型LLM智能体不仅需判断是否需要更多信息，还需决定哪一来源能消解不确定性。作者将问题形式化为ACT、CLARIFY、VERIFY之间的不确定性路由，提出PROUR框架，将动作不确定性分解为用户目标解释间分歧与解释内熵。在τ-bench上平均成功率达28.17%，比最强基线高4.57…
arXiv cs.AI34 天前
★ 3
ConsultMind：不确定性感知推理实现自动诊断问诊
论文提出 AutoDisym 流水线，结合诊断知识与异构临床叙事构建「疾病—症状贝叶斯网络」（DSBN），并在此基础上提出不确定性感知框架 ConsultMind，依据后验不确定性引导问诊与诊断。在精神科、呼吸科、发热门诊及三个公开数据集上，ConsultMind 将 Top-1 与 Top-3 …
arXiv cs.AI35 天前
★ 3
研究：音频大模型无法判断自身转录是否可靠
研究发现音频大模型对自身转录可靠性判断很差，多数情况下都认为转录可靠，现有语音质量预测、生成不确定性与 WER 估计信号有限。但可靠性信息强烈编码于音频编码器表示中，据此训练的轻量预测器在域内与跨域 macro-F1 达 81.10% 与 78.09%，可在生成前触发澄清请求，且标签可跨模型家族迁…
arXiv cs.AI35 天前
★ 3
研究：多智能体代码评审何时真正有据可依
论文指出多智能体代码验证方法要求证据独立于被审答案且在候选间有差异，而代码评判场景不满足第二个条件。在 MARCH 框架上测试发现，它在 78%–95% 的比较中判定两解同样好，准确率仅 4.4%，远低于直接询问模型的 43.7%。作者提出两种无需标签的度量，据此让流水线在无把握时拒答，准确率从 …
arXiv cs.AI35 天前
★ 3
贝叶斯神经网络全协方差平滑方法用于在线自适应
论文将神经网络各层视为状态空间模型的时间步，把贝叶斯训练转化为平滑问题：前向传播高斯矩，反向 RTS 平滑以闭式更新权重后验。既有方法仅限对角协方差、丢弃神经元间相关性，作者通过交叉协方差恒等式实现全协方差在非线性激活中的传播。该方法在非平稳分类、在线动力学学习与视觉-语言-动作模型策略自适应中普…
arXiv cs.LG39 天前
★ 3
LLM对话早期后验坍缩导致澄清失效
论文指出对话失败常被归因于记忆问题，但更深层问题是模型过早承诺：模糊的早期轮次坍缩为单一隐藏解释，后续澄清被当作额外上下文而非纠正信号。在Gemini-2.5-Pro和Flash的数千次试验中，相同信息不同顺序导致不同结果，编码任务尤其脆弱。作者呼吁从保留更多上下文转向保留不确定性。
arXiv cs.AI40 天前
★ 3
仅澄清法估计LLM偶然不确定性
研究提出仅用澄清而非答案来估计LLM中由歧义引起的偶然不确定性，降低计算成本并提高AUROC，表明解释空间比响应空间更适合估计此类不确定性。
arXiv cs.AI56 天前
★ 3
UTP-Bench：不确定性感知旅行规划基准
UTP-Bench是一个大规模基准，用于评估大语言模型在不确定性条件下的旅行规划能力。它整合了印度504个城市的真实数据，并引入经验延迟分布和人群密度模式。实验显示现有模型在时间缓冲、延迟感知交通调度和人群敏感规划方面与人类计划存在显著差距。
arXiv cs.AI60 天前
★ 3
AcCoRD：评估真实用户偏好动态下的用户智能体协作
AcCoRD基准测试要求智能体处理在线购物和旅行规划中多样化的用户偏好动态。实验显示前沿模型能处理未明确偏好，但难以满足交互中涌现或演变的偏好，且单纯提示无法引发所需的认知不确定性建模。
arXiv cs.AI63 天前
★ 3
FLARE：医疗AI循证采用的不确定性感知框架
FLARE框架结合模糊逻辑、时间驱动作业成本法和投资回报分析，评估医疗AI的财务和运营影响。案例研究显示，AI辅助大血管闭塞检测在年患者量约5000时实现正投资回报，盈亏平衡点约为3992例。
arXiv cs.AI68 天前
★ 2
博客：用 LLM 做置信度评分是个坏主意
一篇技术博客论证让大语言模型自评置信度并不可靠，模型输出的概率或分数与实际正确率往往脱节。作者建议改用外部校准与验证手段评估不确定性。
Hacker News – LLM12 天前
★ 2
Control-TS：分位数引导扩散概率时间序列预测
研究探讨预测分位数如何作为扩散预测的分布控制信号，发现贯穿去噪网络的残差控制带来最一致的改进。据此提出 Control-TS，在冻结预训练骨干的同时学习分位数控制通路，在八个基准上持续改善 CRPS 并媲美最先进预测模型。论文还提出条件线性预测分数（CLPS）评估生成未来的下游预测效用。
arXiv cs.LG17 天前
★ 2
arXiv 提出 URW：面向 LLM 评测的保形加权方法
针对基于评分标准的 LLM 评测中判断确定性不均的问题，研究者提出 Uncertainty-aware Rubric Weighting（URW）框架。该方法通过保形校准量化标准级判断不确定性，并转化为每项标准的权重，无需训练。实验表明 URW 持续提升成对偏好准确率并增强下游 RL 对齐效果。
arXiv cs.AI17 天前
★ 2
REWIND：熵引导的推理轨迹修复方法发布
研究者提出 REWIND，一种无需训练的控制器，利用 token 熵动态定位推理错误并针对性重生成后缀。在 MATH500 上发现错误回答的平均 token 熵比正确回答高约 112%。跨三个模型家族、五个基准测试中，REWIND 比最强基线提升 0.51-10.00 个百分点。
arXiv NLP18 天前
★ 2
后验流匹配 PFM：生成建模新框架
论文提出后验流匹配（PFM），用高斯后验模型同时学习条件速度均值与分量方差，单次模型评估即可给出传输预测与端点不确定性。支持均值驱动的 ODE 与后验驱动的 SDE，在图像、点云、分子和动作生成上提升生成质量并提供全程后验读数。
arXiv cs.LG19 天前
★ 2
VoS：从不确定性到行动，学习引导 LLM 智能体
论文研究如何引导 LLM 智能体——是否纠正、在哪一步纠正、用何种机制。作者构建约 8.2 万条反事实续写的逐步结果表（SOT），发现不确定性可识别失败轨迹但无法定位有效干预步骤。据此提出轨迹级监控器 VoS（Value of Steering），在 12 种设置中平均提升 7.8 分，并优于五种…
arXiv cs.AI25 天前
★ 2
研究：让AI模型标记可疑答案的新路径
加州大学河滨分校的研究团队发现了一种新方法，可让AI模型在给出不确定答案时主动发出警示信号。该机制有望提升模型输出的可信度，帮助用户识别可能不可靠的回答。对高风险场景下的AI部署具有潜在价值。
Hacker News – AI27 天前
★ 2
图像保真不等于场保真：神经层析成像的联合重建与误差定位
论文指出科学层析成像中 2D 图像误差低并不代表 3D 物理场重建正确，因为前向映射是多对一的。作者提出 CoroNeRF，通过可微原子发射渲染器直接从多视角多谱线强度联合优化电子密度与温度场。研究还发现跨随机种子不稳定性可作为推理时无需真值的局部场误差指示器。
arXiv cs.LG38 天前
★ 2
多智能体 LLM 协调的认知概率模型
论文指出多智能体大模型虽广泛应用，但理论基础薄弱，存在缺乏社交智能、缺少协调机制、涌现行为未知等问题。作者提出 EPLA（认知概率语言智能体），一种在不确定性下进行多智能体协调的神经符号架构，由符号守卫提供结构化诊断反馈并控制 LLM 生成类型化动作的执行，并通过认知彩票八卦模型形式化认知层。
arXiv cs.AI38 天前
★ 2
演化标签空间下开放世界意图发现的不确定性持续学习
论文提出统一的不确定性感知概率框架，用于演化标签空间下的持续新意图发现，通过自适应β-VAE编码、多信号决策机制与密度聚类实现受控标签扩展。实验显示高新颖性精度、跨阶段稳定适应与有限遗忘，但完整细粒度意图分类体系重建仍受限。
arXiv cs.LG46 天前
★ 2
一次性联邦贝叶斯模型的后验事件传输认证
论文提出部署一致的认证框架，通过部署聚合规则传播本地后验事件，为一次性联邦贝叶斯学习提供安全概率下界，并对 FedAvg 给出精确几何刻画。每个客户端构建不相交超矩形区域并计算概率质量，服务器形成笛卡尔积并仅保留满足安全属性的乘积事件。实验显示传输式 FedAvg 证书为 22.51%-46.89…
arXiv cs.LG47 天前
★ 1
Zet：识别AI猜测的置信层
开发者推出 Zet，一个构建在 Jev 与 Laya 之上的层，用于判断 AI 何时在猜测，帮助用户识别模型输出的不确定性。属于 Show HN 早期项目，关注度较低。
Hacker News – AI32 天前