技术
LLM Embeddings(大模型嵌入)
大语言模型嵌入指利用LLM生成的文本向量表示,能捕捉深层语义,解决传统词向量上下文无关的问题。典型应用包括语义搜索、聚类和检索增强生成,代表模型有OpenAI的text-embedding-ada-002和BERT。
详细解释
LLM嵌入通过大语言模型将文本映射到高维向量空间,使语义相似的文本距离更近。与静态词向量不同,它基于上下文动态生成,能处理一词多义和长距离依赖。技术实现包括取最后一层隐藏状态或池化策略。评估常用MTEB基准,应用涵盖信息检索、推荐系统和RAG。
别名与相关写法
llm embeddings
相关术语
相关资讯
平衡k-shot采样下KLPCDA的精确退化问题2026/9/10