Sparse Autoencoder（稀疏自编码器）

稀疏自编码器在隐藏层添加稀疏惩罚项（如L1正则、KL散度），使大部分神经元在给定输入时处于非激活状态，从而学习到稀疏且具有判别性的特征。其结构通常隐藏层维度大于输入维度（过完备），但通过稀疏约束避免恒等映射。稀疏自编码器可用于无监督特征学习，并在可解释性研究中用于提取单义特征，如OpenAI的稀疏自编码器用于解释语言模型神经元。