★ 2
DDT-RFE:去除扩散编码器残差连接
论文指出解耦扩散 Transformer(DDT)编码器中的跳跃/残差连接让浅层特征绕过变换,限制了渐进抽象能力。作者提出 DDT-RFE,移除每个编码器块中自注意力与 MLP 周围的残差连接,同时融合输入块嵌入与中间、最终编码器特征以保留细节。该方法在图像分类、语义分割、目标发现等视觉理解任务上…
arXiv cs.LG26 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文指出解耦扩散 Transformer(DDT)编码器中的跳跃/残差连接让浅层特征绕过变换,限制了渐进抽象能力。作者提出 DDT-RFE,移除每个编码器块中自注意力与 MLP 周围的残差连接,同时融合输入块嵌入与中间、最终编码器特征以保留细节。该方法在图像分类、语义分割、目标发现等视觉理解任务上…