技术
LLM Judge(大模型评判)
LLM Judge指使用大语言模型作为评估器,自动评价其他模型输出的质量,解决人工评估成本高、不一致的问题。它通过设计提示词让LLM对生成内容打分或排序。典型应用包括聊天机器人回复评估和模型对比。
详细解释
LLM Judge通常基于强LLM(如GPT-4)构建,通过提供评分标准、参考示例等提示,让模型对候选输出进行多维评价。技术包括成对比较、单点打分、思维链推理。挑战包括位置偏差、自我增强偏差。代表工作有MT-Bench、Chatbot Arena。
别名与相关写法
llm judge
相关术语
相关公司
相关资讯
论文提出 HRS 方法让冻结 LLM 评审对齐人类评分分布2026/10/30
研究:决策语言模型 Jev 可低成本替代临床 AI 的 LLM 评审2026/10/22
Kairos 实验:三个 LLM 评审无法分辨 AI 智能体的真实与伪造记忆2026/10/18
CuBEs:文化情境化行为评估与「文化盲」LLM评判者的局限2026/10/5
LLM评审员职业测量审计:排序一致不等于尺度一致2026/10/5
稀疏重叠下的 LLM 评判者验证2026/9/29
LLM评判用于专利撰写智能体评估2026/9/15