StopGrad（梯度截断）

StopGrad（Stop Gradient）是深度学习中的一种操作，在前向传播时正常计算，但在反向传播时截断梯度，使该张量不参与梯度更新。它常用于多任务学习中避免任务间干扰，或在生成对抗网络中分离生成器和判别器的梯度。在PyTorch中通过detach()实现，在TensorFlow中通过tf.stop_gradient()实现。该技术有助于稳定训练和实现复杂的优化目标。