Mechanistic Interpretability（机制可解释性）

机制可解释性结合神经科学和计算机科学，通过分析模型权重、激活和梯度，识别可解释的特征和电路。方法包括激活最大化、归因分析和电路分析。例如，在视觉模型中，发现神经元对应特定概念；在语言模型中，识别注意力头的作用。该领域有助于提高AI安全性和可靠性，但面临多义性和叠加等挑战。