技术
Concept Supervision(概念监督)
概念监督是一种在模型训练中引入人类可理解的概念作为中间监督信号的技术,旨在解决深度模型可解释性差和推理过程不透明的问题,典型应用包括基于概念的解释模型(如概念瓶颈模型)和细粒度图像分类。
详细解释
概念监督的核心思想是让模型不仅学习输入到输出的映射,还学习一组预定义或自动发现的概念,并利用这些概念进行预测。概念瓶颈模型(CBM)先预测概念向量,再基于概念做最终分类,从而提供可解释的决策路径。后续工作如概念白盒模型、概念嵌入等进一步提升了概念监督的灵活性和性能。该技术常用于医疗诊断、自动驾驶等需要高可信度的领域。
别名与相关写法
concept supervision