Activation Patching（激活修补）

Activation Patching源于因果干预思想，常用于分析Transformer模型。具体做法是在前向传播中，将某一层的激活值替换为来自不同输入的激活值，观察输出变化，从而识别对任务至关重要的神经元或注意力头。该方法有助于理解模型内部机制，如事实回忆、推理路径，并支持模型编辑与安全分析。