#视觉Transformer

共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 2

Drift-TTA 提出隐藏轨迹对齐的测试时自适应方法

论文提出 Drift-TTA,利用深度网络中间层表示的「隐藏轨迹」作为测试时自适应信号,在冻结骨干上加入零初始化低秩适配器,将受损输入的轨迹对齐到干净输入。在 CIFAR-100-C 严重度 5 下,无源在线版本比无 TTA 提升 13.3 个百分点(ViT-B/16),并将 ECE 从 18.0…

arXiv cs.LG13 天前
★ 2

Inception裁剪实现差异或影响视觉模型训练

论文发现TensorFlow/JAX生态中的Inception裁剪按 f(A)∝1/√A 采样裁剪尺度,与PyTorch遵循原始描述的实现不同。作者在ImageNet-1k上训练522个ViT-S/16模型,发现训练预算越高越需要强增强,且裁剪尺度分布的下尾决定增强强度。研究还重新评估了Beta裁…

arXiv cs.LG27 天前
★ 2

LoRA 增强对比学习用于声呐目标识别

研究将 DINOv3 ViT 适配到合成孔径声呐自动目标识别,采用三阶段参数高效框架:LoRA 微调、难负样本挖掘与监督对比学习。结果显示 LoRA 是主要增益来源,AUPRC 从 0.300 提升至 0.679,仅训练 0.26% 权重;后两阶段相对对照无显著提升,说明单一高效适配阶段已足够。

arXiv cs.AI42 天前

这个主题的相关资产

相关标签

视觉Transformer 最新资讯与动态(3 篇) - 智讯 AI News