★ 1
指示切换成本下的在线凸优化动态遗憾
该论文研究带指示切换成本的在线凸优化动态遗憾问题,此类成本刻画服务器激活、模型部署等启动开销。作者证明直接扩展现有技术会失败,并提出基于元学习的框架,用随机惰性 FTRL 基学习器与运动感知主算法聚合。所得界在无需预知切换次数与路径长度的情况下达到极小极大最优。
arXiv cs.LG35 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
该论文研究带指示切换成本的在线凸优化动态遗憾问题,此类成本刻画服务器激活、模型部署等启动开销。作者证明直接扩展现有技术会失败,并提出基于元学习的框架,用随机惰性 FTRL 基学习器与运动感知主算法聚合。所得界在无需预知切换次数与路径长度的情况下达到极小极大最优。
论文提出一个简单框架,将非平稳在线学习中的动态遗憾最小化归约为切换遗憾最小化。核心思路是为任意比较器序列构造每轮无偏、方差可控且切换次数有限的辅助随机序列,从而借助现成算法推导动态遗憾界。对强凸与指数凹损失得到 Õ(T^{1/3}P_T^{2/3}) 界,对一般凸损失恢复 O(√(T(1+P_T)…