Polysemanticity（多义性）

在深度神经网络中，单个神经元常对多个不相关的输入特征激活，而非对应单一语义概念，这被称为多义性。它源于神经元数量有限而特征空间巨大，导致特征叠加（superposition）。多义性使得直接解释神经元含义变得困难。为解耦特征，研究者采用稀疏自编码器（SAE）将激活分解为稀疏的、单义的潜在特征。该现象是机制可解释性领域的核心问题，代表工作包括 Anthropic 的字典学习和特征可视化。