技术
LRP(层间相关性传播)
层间相关性传播,一种解释神经网络决策的可解释性方法,通过反向传播相关性得分到输入特征。
详细解释
LRP(Layer-wise Relevance Propagation)由 Bach 等人于 2015 年提出,基于守恒定律将输出预测的相关性逐层分解,最终分配到输入像素或特征上。它不依赖梯度,能生成更清晰的热力图,广泛用于图像分类、文本分析等领域的模型解释,帮助理解模型关注区域。
别名与相关写法
lrp
层间相关性传播,一种解释神经网络决策的可解释性方法,通过反向传播相关性得分到输入特征。
LRP(Layer-wise Relevance Propagation)由 Bach 等人于 2015 年提出,基于守恒定律将输出预测的相关性逐层分解,最终分配到输入像素或特征上。它不依赖梯度,能生成更清晰的热力图,广泛用于图像分类、文本分析等领域的模型解释,帮助理解模型关注区域。