★ 2
论文分析序列模型长记忆的状态与稳定性复杂度代价
论文研究长程时间依赖对序列模型的资源需求，证明代数衰减预测记忆下指数与有限状态模式的匹配上下界，达到误差 τ 需 r=Θ(log²(1/τ)) 个状态。研究还表明真实分数长记忆会改变几何结构，并给出非线性递归的混沌包络与临界性必要条件。实验在状态空间、门控循环与注意力模型上验证了预测。
arXiv cs.LG25 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究长程时间依赖对序列模型的资源需求，证明代数衰减预测记忆下指数与有限状态模式的匹配上下界，达到误差 τ 需 r=Θ(log²(1/τ)) 个状态。研究还表明真实分数长记忆会改变几何结构，并给出非线性递归的混沌包络与临界性必要条件。实验在状态空间、门控循环与注意力模型上验证了预测。