★ 2
Transformer 时序预测器的轻量前置门控
论文研究编码器前的协变量准入接口，实现一个轻量的表示级前置门控，为表示单元分配 sigmoid 分数，并研究惩罚平均准入的使用正则化变体。作为 TimeXer、iTransformer、PatchTST 的插件模块，在 ETTm1/ETTm2、Traffic、Energy、ILI 等数据集上以零额…
arXiv cs.LG42 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究编码器前的协变量准入接口，实现一个轻量的表示级前置门控，为表示单元分配 sigmoid 分数，并研究惩罚平均准入的使用正则化变体。作为 TimeXer、iTransformer、PatchTST 的插件模块，在 ETTm1/ETTm2、Traffic、Energy、ILI 等数据集上以零额…