#子空间干预

arXiv 论文质疑激活修补效应归因：目标函数夸大学习子空间干预

论文研究可解释性中的激活修补方法，指出学习型子空间干预的输出变化常大于整体状态复制，但这一超额效应主要来自奖励更大效应的目标函数，而非更干净地隔离概念。作者证明正交部分效应一阶相加等于整体，并显示分布式对齐搜索改用目标网络输出后超额效应大部分消失。结论是更大的学习效应本身不构成更强证据。