★ 3
生成式奖励模型扩展规律研究:评判准确率不等于优化效果
论文在创意写作策略优化中比较生成式奖励模型(GenRM)的不同训练方式,覆盖 Qwen3 0.6B 至 14B 规模。静态金标准确率更高的 Thinking 评判器,在在线 DPO 训练中常被 Answer-Only 奖励器反超。研究提出「评估者—奖励者差距」:固定分布上的评判准确率无法决定下游优…
arXiv cs.AI10 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文在创意写作策略优化中比较生成式奖励模型(GenRM)的不同训练方式,覆盖 Qwen3 0.6B 至 14B 规模。静态金标准确率更高的 Thinking 评判器,在在线 DPO 训练中常被 Answer-Only 奖励器反超。研究提出「评估者—奖励者差距」:固定分布上的评判准确率无法决定下游优…
论文针对功能磁共振成像基础模型,用 200 多个源数据集与超 1 万 GPU 小时做受控扩展实验,考察预训练数据量、模型规模与训练时长三者的关系。结果显示算力相近的模型性能差异显著,数据与模型规模应协同扩展,同等算力下增加数据比增大模型对更多任务有利。据此选出的模型在分布外任务上取得最高平均性能且…