模型
Masked Autoencoder(掩码自编码器)
Masked Autoencoder 是一种自监督视觉预训练方法,通过随机掩码输入图像块并重建像素,解决标注数据稀缺问题。它采用非对称编码器-解码器架构,在 ImageNet 上取得优异性能,代表工作为 He 等人 2021 年的 MAE。
详细解释
MAE 将输入图像划分为 patch,随机掩码高比例(如 75%)的 patch,仅将可见 patch 输入 ViT 编码器,然后轻量解码器重建掩码 patch 的像素。这种设计迫使模型学习全局语义表示,且计算高效。MAE 在 ImageNet 分类、迁移学习上超越对比学习,并启发了视频、音频等领域的掩码建模。
别名与相关写法
masked autoencoder
相关术语
相关资讯
LAMAE:潜在注意力掩码自编码器实现多模态心脏表征学习2026/9/14