★ 2
MGO-SC：动量引导优化器为 Adam 更新加符号一致性门控
论文研究 MGO-SC，一种对 Adam 类优化器的轻量改造，利用符号指数移动平均构造逐坐标一致性门控，抑制梯度符号不稳的坐标。作者提出保均值变体以维持整体步长，在 CIFAR-10/ResNet-18 的对称与非对称标签噪声下稳定优于 AdamW 基线。
arXiv cs.LG3 天前
#梯度
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究 MGO-SC，一种对 Adam 类优化器的轻量改造，利用符号指数移动平均构造逐坐标一致性门控，抑制梯度符号不稳的坐标。作者提出保均值变体以维持整体步长，在 CIFAR-10/ResNet-18 的对称与非对称标签噪声下稳定优于 AdamW 基线。