★ 2
论文重思长尾数据下监督对比学习的表示几何
论文建立理论框架,分析长尾分布下监督对比学习目标能否在最优处形成正单纯形几何,发现代表性目标因依赖每类样本数而失败。作者提出结构平衡与完全平衡对比目标,可证明在最优处形成正单纯形,并在长尾识别与迁移学习上提升性能。
arXiv cs.LG7 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文建立理论框架,分析长尾分布下监督对比学习目标能否在最优处形成正单纯形几何,发现代表性目标因依赖每类样本数而失败。作者提出结构平衡与完全平衡对比目标,可证明在最优处形成正单纯形,并在长尾识别与迁移学习上提升性能。