技术
GRPO(组相对策略优化)
GRPO(组相对策略优化)是DeepSeek提出的强化学习算法,用于优化LLM的推理能力,通过组内相对比较替代价值函数,降低训练成本。它成功应用于DeepSeek-R1,提升数学和代码任务表现。
详细解释
GRPO属于策略梯度方法,对同一提示生成一组输出,计算组内奖励的标准化优势,避免训练价值网络。它结合KL散度约束和裁剪机制,稳定训练。相比PPO,GRPO更节省内存且易于并行。在DeepSeek-R1中,GRPO驱动模型自我进化出长链推理能力。
别名与相关写法
grpo
相关术语
Diffusion Language Model共现 2 篇
Credit Assignment共现 2 篇
Reinforcement Learning共现 1 篇
Curriculum Learning共现 1 篇
Speech Recognition共现 1 篇
Long-Horizon共现 1 篇
相关公司
相关资讯
RSHD:从失败尝试中恢复监督信号,改进 GRPO 训练2026/10/16
AdaC-GRPO:自适应课程强化学习攻克长程视觉数独2026/10/12
外部引导何时助力 LLM 推理:GA-GRPO 偏差方差理论2026/10/7
DACA-GRPO:扩散语言模型强化学习的去噪感知信用分配2026/9/16
快手AI的SRPO框架提升强化学习效率2025/4/24
GRPO 强化学习提升低资源语言语音识别,开源 SunflowerASR2026/10/23
ForkGRPO:扩散语言模型的高效探索与细粒度信用分配2026/10/15
SLCA-GRPO:解决工具调用RL中的跨段信用错配2026/9/25