技术
Abstention(弃权)
弃权指AI系统在不确定或缺乏足够信息时选择不给出答案,以避免错误输出,解决模型过度自信的问题。典型应用包括医疗诊断和自动驾驶中的安全决策,代表工作有选择性分类和基于置信度的阈值方法。
详细解释
弃权机制通常基于模型输出的置信度分数,当低于阈值时拒绝预测。在分类任务中,选择性分类允许模型在覆盖率和准确率之间权衡。在生成任务中,模型可输出“我不知道”或请求澄清。实现方式包括贝叶斯神经网络、深度集成和温度缩放校准。弃权对于高风险领域至关重要,可减少错误传播并提升系统可信度。
别名与相关写法
abstention
相关术语
相关资讯
研究:相关性标注不完整会扭曲对话 RAG 的拒答评估2026/11/2
三项推理可靠性研究共同指向校准弃答机制2026/9/17
SAGE:任务导向对话代理的状态接地与弃权感知评估2026/9/2
论文研究文本嵌入模型量化校准的收益与风险2026/10/21
ArcticQA 基准发布:评测 LLM 北极科学弃答能力2026/10/8
arXiv 论文提出可弃权贝叶斯固定置信度最佳臂识别算法 S&C2026/10/23
arXiv 论文研究三通道分数冲突下的受控采集与弃权策略2026/10/9