★ 2
预条件指数转负:学习率耦合与跨环境泛化
论文通过四环境配对分类任务,系统研究自适应优化器中二阶矩估计幂次 p 与全局学习率 η 的交互。发现使跨环境准确率最优的 p 随 log10(η) 近似线性下降,斜率约 -0.27 至 -0.30。研究还揭示源域验证会系统性地选出与最大化环境鲁棒性不同的预条件机制,属单种子有限预算的机理研究。
arXiv cs.LG35 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文通过四环境配对分类任务,系统研究自适应优化器中二阶矩估计幂次 p 与全局学习率 η 的交互。发现使跨环境准确率最优的 p 随 log10(η) 近似线性下降,斜率约 -0.27 至 -0.30。研究还揭示源域验证会系统性地选出与最大化环境鲁棒性不同的预条件机制,属单种子有限预算的机理研究。