Sharpness-Aware Perturbation（锐度感知扰动）

背景：传统优化算法如SGD倾向于寻找损失函数的尖锐极小值，这种解对参数扰动敏感，导致泛化差距。技术说明：锐度感知最小化（SAM）在每一步优化中先计算当前权重的对抗扰动，再基于扰动后的权重计算梯度并更新，从而鼓励模型收敛到平坦区域。该方法可结合多种优化器，计算开销约为两倍，在图像分类、目标检测和领域泛化中表现优异。