技术
LLM-as-a-Judge(LLM 作为评判者)
LLM-as-a-Judge指用大语言模型评估其他模型输出质量,解决人工评估成本高的问题,典型如MT-Bench和Chatbot Arena,实现可扩展的自动评分。
详细解释
该方法利用强LLM(如GPT-4)根据给定标准对回答进行打分或比较,替代人工标注。常见形式包括单点评分、成对比较和列表排序。技术关键包括提示设计、位置偏差缓解和一致性校准。MT-Bench显示LLM评判与人类偏好高度相关,但存在自我增强偏差和对抗脆弱性。广泛用于模型迭代、排行榜和RLHF奖励建模。
别名与相关写法
llm-as-a-judge
相关术语
相关公司
相关资讯
LLM评判非万能,自改进智能体需确定性护栏2026/9/3
研究:LLM评审对句式改写敏感,可致模型排名反转2026/10/30
研究:LLM 评审可自我去偏,21 组中 20 组提升2026/10/20
AdaGuard:可推理的 LLM 裁判安全护栏框架2026/10/8
SCUR:LLM 评审的实例级可靠性评估2026/10/14