Gradient Clipping（梯度裁剪）

梯度裁剪（Gradient Clipping）是一种在反向传播中限制梯度范数或数值的技术，旨在解决深度网络训练中梯度爆炸导致参数更新过大的问题，常用于循环神经网络和 Transformer 的稳定训练。