★ 1
高维持续线性回归中最优显式与隐式正则化强度研究
论文研究高维持续线性回归，推导出固定步数梯度下降训练的泛化损失闭式表达，证明最优固定步长随任务数近似以 lnT/T 衰减，并与最优 L2 正则化渐近等价。研究还扩展到对角正则化矩阵的广义岭回归，为持续学习系统设计提供理论指导。
arXiv cs.LG17 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究高维持续线性回归，推导出固定步数梯度下降训练的泛化损失闭式表达，证明最优固定步长随任务数近似以 lnT/T 衰减，并与最优 L2 正则化渐近等价。研究还扩展到对角正则化矩阵的广义岭回归，为持续学习系统设计提供理论指导。