技术
Abstention-Aware(拒答感知)
Abstention-Aware指模型具备在不确定时拒绝回答的能力,解决模型在知识盲区产生幻觉的问题,典型应用包括医疗诊断和开放域问答中的拒答机制。
详细解释
Abstention-Aware模型通过引入拒答选项或置信度阈值,在预测置信度低时选择不回答,而非强行输出错误答案。技术实现包括训练时加入拒答样本、设计选择性预测损失函数,以及后处理校准。代表性工作有SelectiveNet、基于不确定性的拒答方法,在医疗、金融等高风险领域尤为重要。
别名与相关写法
abstention-aware
相关术语
相关资讯
SAGE:任务导向对话代理的状态接地与弃权感知评估2026/9/2