★ 2
论文提出神经网络训练动力学粗粒化三定理框架
论文定义神经网络训练的学习算子并证明其下降定理,随后给出精确闭合定理与动力学粗粒化定理,构成构建与评估训练粗粒化模型的系统框架。作者在有限宽度非线性 ReLU 网络上精确导出由五个独立矩构成的粗粒化模型,可准确预测训练输出与学习算子演化。
arXiv cs.LG5 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文定义神经网络训练的学习算子并证明其下降定理,随后给出精确闭合定理与动力学粗粒化定理,构成构建与评估训练粗粒化模型的系统框架。作者在有限宽度非线性 ReLU 网络上精确导出由五个独立矩构成的粗粒化模型,可准确预测训练输出与学习算子演化。