★ 1
B2P-Corr:不可分解相关系数损失的批到总体梯度估计
论文针对皮尔逊相关系数(PCC)、一致性相关系数(CCC)等不可分解指标在小批量训练中梯度有偏、高方差的问题,提出 B2P-Corr 框架,用轻量全局矩草图把相关目标转化为可分解伪损失。给出 B2P-EMA 与 B2P-U 两个 O(B) 复杂度变体,理论上量化了朴素小批量的 O(B⁻¹) 偏差,…
arXiv cs.LG3 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文针对皮尔逊相关系数(PCC)、一致性相关系数(CCC)等不可分解指标在小批量训练中梯度有偏、高方差的问题,提出 B2P-Corr 框架,用轻量全局矩草图把相关目标转化为可分解伪损失。给出 B2P-EMA 与 B2P-U 两个 O(B) 复杂度变体,理论上量化了朴素小批量的 O(B⁻¹) 偏差,…