技术
Verifier-based Selection(验证器选择)
Verifier-based Selection是一种通过验证器评估候选输出并选择最佳结果的技术,解决生成模型输出质量不稳定问题,典型应用包括代码生成和数学推理,代表工作有OpenAI的验证器重排序。
详细解释
Verifier-based Selection在生成模型产生多个候选后,用验证器打分选择最优。验证器可以是训练好的奖励模型或规则检查器。在代码生成中,验证器执行单元测试;在数学推理中,检查答案正确性。该方法提升输出可靠性,但依赖验证器质量。代表工作有OpenAI的代码生成验证器、Self-Consistency等。它常与采样策略结合,用于提升LLM在复杂任务上的表现。
别名与相关写法
verifier-based selection