技术
TD3(双延迟深度确定性策略梯度)
TD3(双延迟深度确定性策略梯度)是一种用于连续控制任务的深度强化学习算法,解决DDPG中Q值高估和训练不稳定的问题。典型应用于机器人控制、自动驾驶,代表工作为论文《Addressing Function Approximation Error in Actor-Critic Methods》。
详细解释
TD3是DDPG的改进版,引入三项关键技术:1)双Critic网络,取较小Q值作为目标,缓解高估;2)延迟策略更新,每两次Critic更新才更新一次Actor;3)目标策略平滑,在目标动作上添加噪声,防止过拟合。这些改进显著提升了稳定性和性能。TD3在MuJoCo基准任务上表现优于DDPG和PPO。
别名与相关写法
td3