★ 3
梯度下降、镜像下降与 FTRL 的精确形式遗憾界
论文从几何角度刻画在线梯度下降、镜像下降与跟随正则化领导者（FTRL）在何种偏差下实现无遗憾。作者提出“精确性”作为统一原则：相关位移场由标量势生成，或等价地对应的一形式在算法所用几何中精确。精确性在温和正则条件下带来次线性遗憾，非零环流则导致线性遗憾。研究还引入保守相关均衡并刻画其与相关均衡的关…
arXiv cs.LG53 天前
#镜像下降
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 1
逆强化学习中奖励函数更新的占用空间几何视角
论文从占用空间（occupancy space）视角重新审视逆强化学习中的奖励更新，指出沿 e-测地线趋向最优占用的几何直接影响奖励参数空间的 IRL 对偶梯度。据此提出用占用轨迹上的平均 Fisher 信息预条件对偶梯度，得到近似自然梯度的更新，并从镜像下降角度分析其收敛性。
arXiv cs.LG19 天前
★ 1
熵Gromov-Wasserstein问题的收敛算法
论文针对熵Gromov-Wasserstein问题提出平均镜像下降（AMD）算法，证明其对任意代价函数收敛，并证明固定步长的对偶梯度法同样对任意代价收敛。两种方法均考虑了实践中不可避免的非精确迭代。实验显示AMD与对偶梯度法在经典镜像下降失效的算例上仍能收敛。
arXiv cs.LG34 天前