#预测编码

共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 4

Sakana AI提出PC-ALM,可训练千层网络

Sakana AI研究者提出增广拉格朗日预测编码(PC-ALM),作为反向传播的层局部替代方案。通过为每层约束附加拉格朗日乘子,PC-ALM在保留预测编码局部更新的同时,在线性网络中可精确恢复反向传播梯度。实验显示其可训练1000层残差MLP,在MNIST上仅落后反向传播约2个百分点,MIT许可的…

MarkTechPost48 天前
★ 3

PreCoMem 框架发布:用预测编码为长期对话智能体做记忆整合

论文提出 PreCoMem,将用户记忆表示为置信度加权的信念,用「有效惊讶度」区分瞬时噪声与真实信念漂移。系统通过 MAINTAIN/PROFILE/CORRECT 三档门控更新记忆,在 LoCoMo、LongMemEval-S、PersonaMem-v2 上取得最优准确率,并开源代码。

arXiv cs.AI11 天前
★ 2

研究提出 SpatialPC,实现亚线性局部信用传播深度计算

论文证明局部学习规则的信用传播延迟源于通信几何而非深度:d 维常数密度下界为 Ω(N^{1/d}),并构造出达到该下界的有向无环图。作者在预测编码框架内实现 SpatialPC,用伴随预测动力学传播信用,在 MNIST 与 Fashion-MNIST 上分别达到 97.6% 与 88.1% 测试准…

arXiv cs.LG5 天前

这个主题的相关资产

相关标签

预测编码 最新资讯与动态(3 篇) - 智讯 AI News