★ 2
生成式价值分类器:用动作似然反向学习 Q 值
论文提出生成式价值分类器,把 Q 学习反过来做:不直接预测状态-动作回报,而是估计在每种可能回报下该动作出现的概率,其评论家网络含一个回报条件策略作为生成组件,可与演员共享架构。训练时用每个动作而非仅回报监督评论家,并以平方误差锚定 Q 值。离线与在线强化学习任务上均优于分布式 RL 等判别式方法。
arXiv cs.LG14 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出生成式价值分类器,把 Q 学习反过来做:不直接预测状态-动作回报,而是估计在每种可能回报下该动作出现的概率,其评论家网络含一个回报条件策略作为生成组件,可与演员共享架构。训练时用每个动作而非仅回报监督评论家,并以平方误差锚定 Q 值。离线与在线强化学习任务上均优于分布式 RL 等判别式方法。