★ 3
Predicate Neuron：可微谓词神经元将一阶逻辑量化引入神经网络
论文提出 Native Predicate Neuron，一种可微逻辑推理神经模块，通过一阶逻辑量化让标准网络具备符号推理能力。该神经元用单一可训练参数在运算间切换，训练时执行硬逻辑操作同时保持可反传。在 MNIST、Wikitext 上跨全连接、卷积、循环与 Transformer 架构验证，可…
arXiv cs.LG3 天前
#神经网络架构
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
研究提出 SpatialPC，实现亚线性局部信用传播深度计算
论文证明局部学习规则的信用传播延迟源于通信几何而非深度：d 维常数密度下界为 Ω(N^{1/d})，并构造出达到该下界的有向无环图。作者在预测编码框架内实现 SpatialPC，用伴随预测动力学传播信用，在 MNIST 与 Fashion-MNIST 上分别达到 97.6% 与 88.1% 测试准…
arXiv cs.LG5 天前
★ 2
论文用算法信息论定义并生成组合结构
论文用算法信息论形式化「组合结构」概念：当各部分合在一起揭示出单独建模时无法捕捉的共享结构时，组合结构便出现。作者进一步反转该框架，在字符串与图像上直接优化生成具有层级复用与部分-整体组织的对象，并讨论其对神经网络深度与组合式数据课程设计的启示。
arXiv cs.AI17 天前