LinkedIn 将 LLM 标注器改为语义打分,吞吐提升 1.9 倍
原文标题:From Generation to Scoring: Scaling LLM-Based Semantic Labeling at LinkedIn
重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。
LinkedIn 提出端到端方案,将 LLM 标注器从生成式 YES/NO 列表改为语义打分,在单候选提示上微调,用一次 prefill 的答案 token 分数给出决策。作者改造多项打分(MIS)以在一条序列中为数百候选打分并屏蔽相互注意力。上线于个人资料资格标注后,候选重排仅改变至多 0.01% 决策,模型服务吞吐提升 1.9 倍。
深读 · 结论先行AI 生成展开看要点与影响 ↓
LinkedIn把LLM标注器改为语义打分,模型服务吞吐提升1.9倍且决策几乎不变
- •将LLM标注器从生成式YES/NO列表改为语义打分,在单候选提示上微调,用一次prefill的答案token分数出决策
- •改造多项打分(MIS),在一条序列中为数百候选打分并屏蔽相互注意力
- •上线个人资料资格标注后,候选重排仅改变至多0.01%决策
- •达到同等参考标签一致率所需训练对约为打包生成的1/4.7
- •吞吐离线提升1.24倍、模型服务提升1.9倍(1秒p99延迟目标下);MIS支持已贡献至SGLang
为什么重要:这是把生成式标注改成判别式打分的可复制工程范式,对大规模标注流水线意味着同等质量下显著降本提速。
以上深读由 AI 依据标题/摘要/正文节选生成,仅供参考;事实以原文为准。
AI 处理过程展开/收起
相关推荐
AI分析40万条Reddit帖子发现Ozempic隐藏副作用
AI 摘要研究利用AI分析约40万条Reddit帖子,发现Ozempic等GLP-1药物此前未被充分记录的副作用。该成果展示AI在药物警戒与真实世界证据挖掘中的潜力,可补充传统临床试验与不良反应报告的盲区。
谷歌AlphaGenome Atlas绘制人类基因组图谱
AI 摘要谷歌DeepMind推出AlphaGenome Atlas,包含人类基因组中每个可能的DNA字母变化的预测图谱,有望加速科学研究并推动疾病治疗。该工具将改变我们对生物学的理解。
Meta Muse 下载破千万,国内创业团队争造中国版个人 Agent
AI 摘要Meta 个人 AI 助理 Muse 上线不足两月累计下载 1040 万次,带动国内 Personal Agent 创业热潮,Today AI、Manus Cue、Rabbit OS3 等相继入场。但创业团队需直面豆包、千问等大厂免费产品,以及跨 App 执行任务受微信、淘宝等平台限制的生态壁垒。
腾讯汤道生谈 WorkBuddy 商业化:不设收入数字逼团队
AI 摘要在 2026 腾讯全球数字生态大会上,腾讯发布跨应用办公协同体系 Buddy One,打通腾讯文档、会议、ima 与网盘,并推出商业化方案 Buddy One VIP。汤道生表示 WorkBuddy 商业化以支撑服务发展为目的,不设具体收入指标;负责人刘毅透露中国 500 强中 50% 已在使用,平台累计提交任务超 90 亿。