★ 3
帕累托占优澄清:PPO-拉格朗日预算约束后训练编码模型
论文将编码智能体的澄清提问建模为约束马尔可夫决策过程,用 PPO-拉格朗日对 Qwen2.5-Coder-7B-Instruct 进行后训练,在期望提问预算约束下优化编码准确率。在 HumanEvalComm 上,预算约束策略可同时实现更高准确率与更低澄清率,呈现对数形帕累托前沿,且模型学会在更难…
arXiv cs.LG27 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文将编码智能体的澄清提问建模为约束马尔可夫决策过程,用 PPO-拉格朗日对 Qwen2.5-Coder-7B-Instruct 进行后训练,在期望提问预算约束下优化编码准确率。在 HumanEvalComm 上,预算约束策略可同时实现更高准确率与更低澄清率,呈现对数形帕累托前沿,且模型学会在更难…