★ 2
对称商平坦性与泛化理论
论文在对称商空间上建立理论链条:商线性稳定性蕴含商平坦性,商平坦性蕴含输入平滑性,输入平滑性在局部覆盖假设下导出泛化。作者定义商平坦性为经验损失 Hessian 在正则商流形上的迹,并证明 SGD 一步均方商线性稳定性给出显式平坦性界。最终推导出基于商平坦性与商线性稳定性的总体泛化界。
arXiv cs.LG34 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文在对称商空间上建立理论链条:商线性稳定性蕴含商平坦性,商平坦性蕴含输入平滑性,输入平滑性在局部覆盖假设下导出泛化。作者定义商平坦性为经验损失 Hessian 在正则商流形上的迹,并证明 SGD 一步均方商线性稳定性给出显式平坦性界。最终推导出基于商平坦性与商线性稳定性的总体泛化界。