Causal Abstraction（因果抽象）

因果抽象由Geiger等人于2021年提出，基于结构因果模型（SCM）和干预主义因果论。它定义了两个SCM之间的抽象关系：如果低层模型中的干预能通过映射对应到高层模型的干预，则称低层实现了高层。该框架为神经网络可解释性提供了数学严谨的评估标准，可用于验证模型是否真正学到了因果结构，而非仅统计关联。后续工作将其扩展到分布式表示、因果发现和模型编辑等领域。