技术
Best-of-N
对同一问题让模型生成 N 个候选答案,再用打分器或验证器挑出最好的一个,以提升输出质量。
详细解释
Best-of-N 是一种推理时扩展(test-time scaling)策略:模型对同一提示采样 N 次,得到多个候选,然后通过奖励模型、验证器或多数投票选出最优答案。它无需重新训练即可提升正确率,代价是推理算力随 N 线性增长。在数学和代码任务中,配合结果验证器效果尤为明显,是研究推理算力与准确率关系时的常用基线方法。
别名与相关写法
best of n
对同一问题让模型生成 N 个候选答案,再用打分器或验证器挑出最好的一个,以提升输出质量。
Best-of-N 是一种推理时扩展(test-time scaling)策略:模型对同一提示采样 N 次,得到多个候选,然后通过奖励模型、验证器或多数投票选出最优答案。它无需重新训练即可提升正确率,代价是推理算力随 N 线性增长。在数学和代码任务中,配合结果验证器效果尤为明显,是研究推理算力与准确率关系时的常用基线方法。