★ 3
LinkedIn 将 LLM 标注器改为语义打分,吞吐提升 1.9 倍
LinkedIn 提出端到端方案,将 LLM 标注器从生成式 YES/NO 列表改为语义打分,在单候选提示上微调,用一次 prefill 的答案 token 分数给出决策。作者改造多项打分(MIS)以在一条序列中为数百候选打分并屏蔽相互注意力。上线于个人资料资格标注后,候选重排仅改变至多 0.01…
arXiv cs.LG5 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
LinkedIn 提出端到端方案,将 LLM 标注器从生成式 YES/NO 列表改为语义打分,在单候选提示上微调,用一次 prefill 的答案 token 分数给出决策。作者改造多项打分(MIS)以在一条序列中为数百候选打分并屏蔽相互注意力。上线于个人资料资格标注后,候选重排仅改变至多 0.01…