★ 2
人工神经网络需要树突纳米管吗：持续学习中重要性估计收缩
论文从树突纳米管启发的机制出发，发现随机横向连接扩散重要性标签可提升 20 任务 Permuted MNIST 准确率 1.5–2.6 个百分点，并证明其本质是对重要性做向层均值的线性收缩。研究进一步区分 EWC 的方差效应与 MAS 的偏差效应，指出标准异方差经验贝叶斯规则会过度收缩最大 Fis…
arXiv cs.LG19 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文从树突纳米管启发的机制出发，发现随机横向连接扩散重要性标签可提升 20 任务 Permuted MNIST 准确率 1.5–2.6 个百分点，并证明其本质是对重要性做向层均值的线性收缩。研究进一步区分 EWC 的方差效应与 MAS 的偏差效应，指出标准异方差经验贝叶斯规则会过度收缩最大 Fis…