★ 3
TuBA:多维序列建模的 Tucker 瓶颈注意力
论文提出 Tucker 瓶颈注意力(TuBA),利用低秩张量结构实现高效全局 token 混合,将隐藏张量投影到紧凑 Tucker 核心上做多头注意力。在视频预测和全球天气预报上,它比标准自注意力最多降低 24.7% 和 37.1% 误差,计算量减少 66.6% 和 85.1%。
arXiv cs.LG25 天前
共 4 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 Tucker 瓶颈注意力(TuBA),利用低秩张量结构实现高效全局 token 混合,将隐藏张量投影到紧凑 Tucker 核心上做多头注意力。在视频预测和全球天气预报上,它比标准自注意力最多降低 24.7% 和 37.1% 误差,计算量减少 66.6% 和 85.1%。
论文提出 TensorSSM,一种基于动态状态空间模型的隐式神经表示函数式张量分解方法,按 K 叉规则将各模态坐标分解为从粗到细的空间 token 序列。模型扩展状态空间以显式映射跨模态空间依赖,在序列维与状态维两个方向扩展张量表示。实验显示其在高维张量数据压缩上具备更高重建精度与存储效率。
论文提出 FTD-GNO,通过将高维连续积分核分解为低维模态函数,避免显式物化全边核张量。采用 CP、Tensor-Train、Tucker 等张量分解格式,显著降低核评估与聚合的内存占用。实验显示峰值内存低于未分解基线,训练时间更短,并具备良好可扩展性。
针对离散黑盒优化中代理模型难以捕捉可行性逻辑约束的问题,论文提出基于张量分解的代理建模方法,直接整合可行性信息。作者将代理训练形式化为约束多项式优化,并用 T-范数导出的可微惩罚项求解松弛形式。在合成与真实基准(含压力容器设计)上,该方法有效避开不可行区域,提升样本效率。