★ 2
Muon-C:面向卷积核的算子对齐Muon优化器
论文提出Muon-C,将卷积核动量表示为频率通道传递矩阵并独立极化,通过临界傅里叶网格将更新精确返回原始有限核支撑。该方法在CIFAR-10流匹配上以40k迭代达到9.87 FID,远优于展开Muon的22.26和Adam的51.31,且以更少FLOPs达到同等质量。
arXiv cs.LG53 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出Muon-C,将卷积核动量表示为频率通道传递矩阵并独立极化,通过临界傅里叶网格将更新精确返回原始有限核支撑。该方法在CIFAR-10流匹配上以40k迭代达到9.87 FID,远优于展开Muon的22.26和Adam的51.31,且以更少FLOPs达到同等质量。
论文针对时空图神经网络在剩余使用寿命(RUL)预测中的缺陷,提出 MTFGN-SRL 框架:将样本视为单张完整图,用傅里叶图神经网络在频域捕捉时空信息,并引入多回溯窗口的多阶学习与样本关系学习模块。在 CMAPSS 数据集上性能优于现有最优方法。