★ 3
LEV：循环决策模型实现按需深度推理
论文提出 LEV，一种通过循环重跑网络层而非生成 token 来加深推理的决策模型，单次前向即可给出选项概率，同一权重可在任意深度作答。2.6B 的 LEV 在 JevBench 上从深度一的 63.2% 提升至深度四的 76.2%，按需深度可节省 15% 至 24% 计算量，且 1.4B 与 3…
arXiv cs.AI17 天前
#循环网络
共 6 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
arXiv 论文解析连续思维机器 CTM 的 ImageNet 分类机制
论文研究连续思维机器（CTM）如何在 ImageNet 上分类图像。作者发现每个思考步骤是吸引但强非正规的映射，训练显著增强非正规性；神经状态沿一条由移动不动点构成的曲线演化。研究还发现注意力调度高度通用，跨图像打乱查询仅损失 7% 准确率，表明 CTM 用单一策略处理所有 ImageNet 图像。
arXiv cs.LG18 天前
★ 2
论文分析序列模型长记忆的状态与稳定性复杂度代价
论文研究长程时间依赖对序列模型的资源需求，证明代数衰减预测记忆下指数与有限状态模式的匹配上下界，达到误差 τ 需 r=Θ(log²(1/τ)) 个状态。研究还表明真实分数长记忆会改变几何结构，并给出非线性递归的混沌包络与临界性必要条件。实验在状态空间、门控循环与注意力模型上验证了预测。
arXiv cs.LG25 天前
★ 2
模型能力参差不齐从何而来
论文构建由下层A（计算各槽求和）与上层B（依赖槽1求和与历史模式预测类别）组成的任务，训练小型循环网络学习B并测量其对A的掌握。结果显示网络只在与B相关的槽位可读出A（线性探针97-98%），其余槽位仅5-10%，类别误读集中在槽1临界点附近，即使显式训练A也仅近似正确。作者认为下层理论的不均匀获…
arXiv cs.LG27 天前
★ 2
基于复数记忆的强化学习
论文重新审视酉循环网络（uRNN），其在复向量空间中表达循环与隐状态，保范酉动力学有利于长序列信息传播。作者提出三种 uRNN 变体作为循环 PPO 架构的即插即用替代，并探索保留复数隐状态相位信息的相位感知策略。在 rocksample、Craftax 等任务上奖励达基线的 2-3 倍，为部分可…
arXiv cs.LG32 天前
★ 2
TinyCeNN-LM：质量门控的注意力转换
论文提出 TinyCeNN-LM，一种质量门控的训后转换框架，用类细胞神经网络循环层替换预训练模型中的注意力，并采用接受或回滚验证。在 SmolLM2-135M 与 Qwen3.5-0.8B 上部分层被接受，困惑度基本持平且缓存最多减少 6.01%，但下游准确率仅 28.5%-32.0%，支持保守…
arXiv cs.AI42 天前
这个主题的相关资产
相关公司阿里巴巴1