★ 3
研究：代码大模型离线后训练的性能与崩溃风险
研究探讨代码生成大模型的强化学习后训练能否完全离线完成，即利用已有数据集而非在线采样。结果显示仅需数小时训练即可显著提升零样本代码生成能力，且离线 RL 在 0.5B 至 7B 参数模型上均有增益。但不同模型家族的提升幅度存在差异，并伴随性能坍缩风险。
arXiv cs.LG49 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究探讨代码生成大模型的强化学习后训练能否完全离线完成，即利用已有数据集而非在线采样。结果显示仅需数小时训练即可显著提升零样本代码生成能力，且离线 RL 在 0.5B 至 7B 参数模型上均有增益。但不同模型家族的提升幅度存在差异，并伴随性能坍缩风险。