★ 2
双曲表示学习的隐式偏差理论分析
论文研究双曲空间中固定类原型多分类任务的黎曼梯度流隐式偏差，提出基于Busemann函数的分解框架。证明半径漂移系数符号决定轨迹趋向理想边界还是回归内部，且边界方向收敛到Busemann风险的临界点。为双曲表示学习中的边界饱和与近边界聚类现象提供严格渐近解释。
arXiv cs.LG26 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究双曲空间中固定类原型多分类任务的黎曼梯度流隐式偏差，提出基于Busemann函数的分解框架。证明半径漂移系数符号决定轨迹趋向理想边界还是回归内部，且边界方向收敛到Busemann风险的临界点。为双曲表示学习中的边界饱和与近边界聚类现象提供严格渐近解释。
该论文研究从预训练模型出发继续训练时，大尺度初始化如何影响后续训练轨迹。作者对严格线性可分数据上的全批量逻辑回归梯度下降轨迹做几何逼近，构造出由有限线性段组成的唯一连续理想路径，分为负间隔修正与最小间隔增长两个阶段。研究证明经两阶段时间重参数化后，固定步长 GD 轨迹除以 R 会一致收敛到该路径，…