#StopGrad

StopGrads的平稳性、收敛性与流图学习

论文提出stopgrad回归原理，为流图、强化学习和扩散采样器中的stopgrad目标提供统一模板与平稳点闭式刻画。证明流图目标的唯一平稳点即真实流图，并给出欧拉与拉格朗日目标的收敛结果。修改stopgrad放置可将训练内存减少2倍。