★ 4
arXiv 证明 RL 评论家可直接复用为 LLM 置信度估计器
论文比较同等容量的自评与外部置信度估计器，发现仅基于策略行为轨迹训练的外部模型即可达到与策略自身相当的置信度估计精度。作者进一步证明在基于正确性的结果下，置信度估计与评论家训练等价，因此经价值型强化学习训练的 LLM 可直接复用现有评论家作为置信度估计器，无需额外训练或数据，在数学、代码、工具调用…
arXiv NLP6 天前
#置信度估计
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
研究：token 置信度评分主要反映思维链长度而非正确性
论文用信号处理方法审计推理模型的 token 置信度打分法，在 500 道数学题各采样 16 条思维链。结果显示滑动窗口最低置信度分数主要度量链长，仅按长度排序效果相当甚至更好；扣除长度后该分数对正确性无信息量。频谱中虽存在微弱信号，但不足以改善多数投票或提前停止策略。
arXiv NLP4 天前
★ 2
arXiv 论文提出证据状态校准与 SufiCE 置信度估计方法
论文指出语言模型在证据不足时仍倾向作答，提出「证据状态校准」概念，要求模型作答前的置信度与实际正确率匹配，并随证据变化而调整。所提 SufiCE 方法在临床诊断与多跳问答任务上把 Brier 分数最多降低 60%、AUROC 最多提升 0.16。
arXiv NLP5 天前