Activation Probe

激活探测（Activation Probe）常用于可解释性研究：给定一个神经网络，收集其某一层的激活值作为特征，训练一个简单的分类器（如线性分类器）来预测输入的相关属性（如词性、情感等）。通过探测准确率可以判断该层是否编码了该属性信息，帮助理解模型内部表示。