Mode Connectivity（模式连通性）

Mode Connectivity（模式连通性）由Garipov等人于2018年提出，挑战了传统认为不同局部最优解被高损失屏障隔开的观点。研究发现，通过简单的曲线（如贝塞尔曲线）或非线性路径，可以连接两个独立训练的模型，且路径上的损失值保持较低。这一现象揭示了损失景观的几何结构，促进了模型集成、鲁棒性分析和新型优化算法（如Fast Geometric Ensembling）的发展。