★ 2
无投影在线凸优化的最优遗憾权衡
论文刻画了仅能访问精确线性优化预言机时在线凸优化可达到的遗憾界。在每轮预言机调用次数受限条件下,给出与维度无关的极小极大期望遗憾紧确刻画,并构造匹配算法。结果涵盖总预算与每轮严格限制两种情形。
arXiv cs.LG31 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文刻画了仅能访问精确线性优化预言机时在线凸优化可达到的遗憾界。在每轮预言机调用次数受限条件下,给出与维度无关的极小极大期望遗憾紧确刻画,并构造匹配算法。结果涵盖总预算与每轮严格限制两种情形。
论文研究每轮仅一个无偏随机次梯度的在线凸优化,噪声条件p阶矩未知(1<p≤2)。提出学习器在无需G、σ、p、区间I等参数的情况下,对任意固定长度区间达到区间动态遗憾上界,并保持均值梯度与噪声的不同指数。分析还给出保留全时域最优保证的学习器噪声幂次下界。
该论文研究带指示切换成本的在线凸优化动态遗憾问题,此类成本刻画服务器激活、模型部署等启动开销。作者证明直接扩展现有技术会失败,并提出基于元学习的框架,用随机惰性 FTRL 基学习器与运动感知主算法聚合。所得界在无需预知切换次数与路径长度的情况下达到极小极大最优。