★ 2
REP-PD-TEG:低秩约束 MDP 的表示学习新方法
论文研究连续状态空间低秩约束马尔可夫决策过程(CMDP)的表示学习,提出 REP-PD-TEG 与 REP-PD-H-TEG 两种算法,分别处理软累积违规与硬累积违规。作者给出遗憾界与违规保证,是首个对低秩连续状态 CMDP 具备理论保证的表示学习方法。
arXiv cs.LG10 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文研究连续状态空间低秩约束马尔可夫决策过程(CMDP)的表示学习,提出 REP-PD-TEG 与 REP-PD-H-TEG 两种算法,分别处理软累积违规与硬累积违规。作者给出遗憾界与违规保证,是首个对低秩连续状态 CMDP 具备理论保证的表示学习方法。
论文基于 PhiBE-Q 提出无模型 PhiBE 策略迭代框架 PhiBE-PI,仅用单一状态-动作评论家并保持连续时间动作排序尺度,复用同一批离散时间数据。在线性函数近似下给出局部端到端次优性保证,并揭示采样间隔的偏差-方差权衡。
论文研究在有限MDP中,当部署只允许少量完整状态级改动时,将连续行混合舍入为稀疏二值策略能保留多少折扣回报。方法从2d+2次贝尔曼求解推导可复用包络,支持舍入前的统一与候选特定保证。实验将认证覆盖率从48.2%提升至74.1%,并将中位界损比从402.3降至2.08。