★ 4
Sakana AI提出PC-ALM,可训练千层网络
Sakana AI研究者提出增广拉格朗日预测编码(PC-ALM),作为反向传播的层局部替代方案。通过为每层约束附加拉格朗日乘子,PC-ALM在保留预测编码局部更新的同时,在线性网络中可精确恢复反向传播梯度。实验显示其可训练1000层残差MLP,在MNIST上仅落后反向传播约2个百分点,MIT许可的…
MarkTechPost48 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
Sakana AI研究者提出增广拉格朗日预测编码(PC-ALM),作为反向传播的层局部替代方案。通过为每层约束附加拉格朗日乘子,PC-ALM在保留预测编码局部更新的同时,在线性网络中可精确恢复反向传播梯度。实验显示其可训练1000层残差MLP,在MNIST上仅落后反向传播约2个百分点,MIT许可的…
论文提出 PreCoMem,将用户记忆表示为置信度加权的信念,用「有效惊讶度」区分瞬时噪声与真实信念漂移。系统通过 MAINTAIN/PROFILE/CORRECT 三档门控更新记忆,在 LoCoMo、LongMemEval-S、PersonaMem-v2 上取得最优准确率,并开源代码。
论文证明局部学习规则的信用传播延迟源于通信几何而非深度:d 维常数密度下界为 Ω(N^{1/d}),并构造出达到该下界的有向无环图。作者在预测编码框架内实现 SpatialPC,用伴随预测动力学传播信用,在 MNIST 与 Fashion-MNIST 上分别达到 97.6% 与 88.1% 测试准…