★ 2
研究：循环语言模型深度复用靠训练与推理循环一致而非归一化
一篇 arXiv 论文研究循环语言模型（如 Ouro 系列）为何能在超出训练预算的循环步数下保持可用。作者发现移除循环边界归一化后，Ouro-1.4B 与 Ouro-2.6B 在平衡二分类任务上准确率归零，但原因并非状态范数增长；从头训练的 19M 参数模型则显示不归一化反而更好。结论是训练循环与…
arXiv cs.LG7 天前
#归一化
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
CryptoL：加密货币多变量时序预测新框架
论文提出CryptoL统一框架，针对加密货币OHLC数据中跨资产尺度差异大、非平稳性强的问题，在RevIN流程内以情境归一化坐标计算预测误差，避免反归一化给MSE目标引入额外平方尺度权重。框架还比较通道独立与通道依赖归一化，并引入尺度自适应数值稳定与OHLC不等式软可行性损失。实验显示其在预测精度…
arXiv cs.AI51 天前
这个主题的相关资产
相关术语RevIN（可逆实例归一化）