文本嵌入

文本嵌入源于信息检索与词向量研究，早期用词袋和TF-IDF表示文本，难以捕捉语义。随着Word2Vec、GloVe等词嵌入出现，词语被映射到稠密向量空间；随后BERT、Sentence-BERT等预训练模型将整句或整段文本编码为固定维度向量。其技术核心是通过神经网络学习语义相近的文本在向量空间中距离更近，常用余弦相似度衡量，广泛应用于语义搜索、聚类、推荐和RAG检索增强生成。