★ 3
面向分块VLA模型的时频几何交叉注意力
视觉-语言-动作（VLA）策略通常一次前向预测整段动作，但动作块作为多变量轨迹，其频率结构与跨相位几何关系未被现有token表示充分建模。论文提出TFGCA模块，用可学习平稳小波变换分解动作块为时频token，并以融合点积与楔积幅值的交叉注意力检索信息。该模块可即插即用微调，在LIBERO、LIB…
arXiv cs.AI53 天前
#交叉注意力
共 8 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
多模态 Transformer 用语义表格建模长财务文本
论文提出多模态 Transformer 框架，将财务表格表示为语义增强的 token 序列，并通过交叉注意力与长文本融合，为每个数值变量附加其文字定义衍生的语义嵌入。基于财报与 MD&A 大规模数据实验显示，结构化数值仍是主要预测信号，但文本经交叉注意力而非简单拼接可带来稳定增量收益。
arXiv NLP3 天前
★ 2
EVFormer：眼动视觉与肌电双向注意力手部姿态估计
研究者提出 EVFormer 多模态框架，将当前 RGB 帧与之前 200ms 的双侧腕部表面肌电信号结合，估计 44 个手指与手腕关节角度。模型分别编码视觉空间特征与 sEMG 时序特征，通过顺序双向交叉注意力实现跨模态信息交换，并用特征级门控融合整合两模态。在单被试可行性研究中，平均绝对误差降…
arXiv cs.LG26 天前
★ 2
GATE-ST：空间转录组基因感知编码器
论文提出 GATE-ST，将文本输入引入基于图像的空间基因表达预测。方法用生成的基因文本描述经文本编码器生成嵌入，通过交叉注意力层与图像嵌入融合以对齐形态特征。基准测试显示其优于随机基因嵌入与多种图文融合架构，有望大幅降低空间转录组预测的时间与成本。
arXiv cs.AI32 天前
★ 2
SMILESGNN：可解释临床毒性预测
研究提出 SMILESGNN，通过交叉注意力融合 SMILES Transformer 编码器与 GATv2 图编码器，用于药物毒性预测。该模型仅 0.4M 参数，在 ClinTox 上 AUC-ROC 达 0.987，并保留图分支以支持 GNNExplainer 子结构分析。结果表明交叉注意力是…
arXiv cs.LG38 天前
★ 2
QUARTET：面向关系图Transformer的四分支交叉注意力架构
针对关系深度学习现有领先模型 RelGT 的局部采样松散与全局注意力单一等局限，论文提出 QUARTET 图 Transformer 架构。它采用基于近期截断个性化 PageRank 的因果随机游走采样器提取紧凑局部子图，并通过四分支交叉注意力整合种子特征、拓扑、时序与协作动态。在 RelBenc…
arXiv cs.LG39 天前
★ 2
EnSol：环境感知图神经网络预测分子溶解度
研究者提出 EnSol，一个环境感知的概率框架，将溶质与溶剂表示为分子图并分别学习表示，通过交叉注意力捕捉相互作用，温度经特征调制直接注入溶剂环境，并用混合密度网络预测完整溶解度分布。在 SolProp 与 Leeds 基准上分别取得 0.876 和 0.601 的 Spearman 相关，优于现…
arXiv cs.LG42 天前
★ 2
利用交叉注意力提升医疗理赔数据心血管事件预测
研究利用交叉注意力机制对医疗理赔数据中诊断与治疗关系加权，生成更具代表性的特征以预测主要不良心血管事件（MACE）。模型 ROC-AUC 达 0.7720，高于传统 ASCVD 模型、LightGBM 与自注意力模型，表明整合理赔数据结构可显著提升预测性能。
arXiv cs.LG53 天前