★ 2
面向非对称Actor-Critic的记忆状态评论家
论文针对部分可观测马尔可夫决策过程,提出「记忆状态评论家」:将评论家条件于状态与策略自身记忆,即可得到良定义且无偏的策略梯度,无需再额外用循环网络近似历史。在四旋翼视觉追逃环境中,该方法优于历史-状态评论家且收敛更快,并在特定场景保持优势。
arXiv cs.LG27 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文针对部分可观测马尔可夫决策过程,提出「记忆状态评论家」:将评论家条件于状态与策略自身记忆,即可得到良定义且无偏的策略梯度,无需再额外用循环网络近似历史。在四旋翼视觉追逃环境中,该方法优于历史-状态评论家且收敛更快,并在特定场景保持优势。
论文对A2C、PPO、DDPG、TD3、SAC五种actor-critic深度强化学习方法在20只标普500大盘股上进行基准测试,并与监督式价格预测基线对比。DDPG年化收益最高达55.5%、夏普比率1.38,但市场beta也最高;TD3与SAC风险收益更均衡。前向重训练改善A2C、PPO、SAC…
论文为长期平均奖励设定下带函数逼近的双时间尺度Actor-Critic算法推导了统一的全时集中界,证明演员参数在有限时间后以高概率进入并保持在安全区域。实验显示演员误差随参数更新次数递减。