★ 2
残差量化提升上下文老虎机效率
论文提出以残差量化(RQ)作为表示层,将连续上下文映射为多层级离散质心分配,从而在严格有界内存下实现非线性奖励建模。在 13 个数据集上,RQ 变体在 11 个数据集上优于非 RQ 版本,且以最多少 1000 倍的内存匹配需反复重训的 XGBoost 与神经基线。该工作为在线决策场景提供了内存高效…
arXiv cs.LG28 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出以残差量化(RQ)作为表示层,将连续上下文映射为多层级离散质心分配,从而在严格有界内存下实现非线性奖励建模。在 13 个数据集上,RQ 变体在 11 个数据集上优于非 RQ 版本,且以最多少 1000 倍的内存匹配需反复重训的 XGBoost 与神经基线。该工作为在线决策场景提供了内存高效…
论文研究 KL 正则化上下文老虎机在奖励与偏好反馈下的表现,证明贪心采样可获得对数遗憾且不显式依赖 eluder 维。研究还揭示贪心采样与置信上界式探索之间的权衡:KL 正则化越强,贪心采样优势越明显。