Verifier（验证器）

Verifier在AI中扮演关键角色，特别是在生成式模型中，用于评估输出的质量或正确性。在形式化方法中，验证器检查系统是否满足规范。在机器学习中，验证器可以是独立的神经网络（如训练一个模型来判别生成答案的正确性），也可以是基于规则的检查器。在强化学习中，验证器常作为奖励模型，提供稀疏奖励信号。典型工作包括OpenAI的数学推理验证器、代码生成的单元测试验证器，以及STaR等方法中利用验证器筛选高质量数据。验证器有助于提升模型输出的可靠性和安全性。