Gating（门控）

门控机制最早在LSTM中提出，用于解决RNN的梯度消失问题。它通过sigmoid函数生成0到1之间的门控信号，与信息相乘，实现选择性记忆。后来GRU简化了LSTM的门控结构。在Transformer中，门控也用于改进前馈网络和注意力机制。门控的核心思想是动态调节信息流，使模型能够捕捉长距离依赖，并提高训练稳定性和表达能力。