技术
LLM Annotation(大模型标注)
LLM Annotation指利用大语言模型自动或半自动地为文本、图像等数据生成标签,解决人工标注成本高、速度慢的问题,典型应用包括指令微调数据构造和RLHF中的偏好标注。
详细解释
传统数据标注依赖人工,成本高且难以规模化。LLM Annotation通过提示工程让大模型生成标签,如GPT-4为指令微调生成输入输出对,或为RLHF生成偏好排序。技术核心是设计高质量提示和验证机制,确保标签准确性。代表工作有Self-Instruct、Alpaca等,它们利用LLM生成指令数据,显著降低了标注成本,推动了指令微调模型的发展。
别名与相关写法
llm annotation