SAE（稀疏自编码器）

稀疏自编码器（Sparse Autoencoder）是一种无监督学习模型，由编码器和解码器组成，目标是最小化重构误差并施加稀疏性惩罚（如L1正则），迫使隐藏层只有少数神经元激活。在AI可解释性领域，SAE被用于分解神经网络中的多义神经元，提取可解释的特征。例如，在大型语言模型中，SAE能够从激活中分离出人类可理解的概念方向，促进模型透明性。