技术
LIME(局部可解释模型无关解释)
LIME(Local Interpretable Model-agnostic Explanations)是一种模型无关的局部解释方法,通过在预测样本附近生成扰动样本并拟合可解释的简单模型(如线性回归)来近似复杂模型的决策,从而解释单个预测。它解决了黑盒模型缺乏可解释性的问题,典型应用于图像分类和文本分类的归因分析。
详细解释
LIME由Ribeiro等人于2016年提出,核心思想是在待解释样本附近生成扰动样本,用复杂模型预测这些样本的标签,然后加权拟合一个可解释模型(如线性模型或决策树),权重由样本与原始样本的距离决定。该方法不依赖模型内部结构,适用于任何分类器,但解释的稳定性受采样和核宽度影响。后续工作如SHAP提供了更理论化的解释框架。
别名与相关写法
lime
相关术语
AI chatbot共现 1 篇
SHAP共现 1 篇