技术
Group Relative Policy Optimization(分组相对策略优化)
分组相对策略优化是一种强化学习算法,通过比较同一组内多个回答的相对优劣来优化语言模型策略。
详细解释
GRPO由DeepSeek提出,用于大语言模型的强化学习微调。它摒弃了传统PPO中的价值网络,改为对同一提示采样多个输出,计算组内相对优势,降低训练成本。技术说明:通过组内归一化奖励估计优势函数,提升训练稳定性和效率。
别名与相关写法
group relative policy optimization