★ 3
研究：文本嵌入模型情感可解码但度量近乎无视
论文发现现代文本嵌入模型存在系统性割裂：情感几乎可完美解码，却几乎不体现在余弦相似度度量中。11 个冻结编码器上线性探针最高 91.3% 准确率，而极性间隔仅 0.003-0.064，Qwen3-Embedding-4B 探针 91.3% 但检索 MAP 仅 64.3。作者提出 SISE 轻量监督…
arXiv NLP7 天前
#文本嵌入
共 8 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
ULME：预测耦合统一 Qwen 文本嵌入与语言建模，MTEB 提升 4.1 分
论文提出 ULME 后训练框架，在因果解码器 LLM 的查询与答案之间插入可学习槽位，用对比损失、语言建模损失与停梯度预测损失联合训练，使生成反向塑造嵌入。在 Qwen2.5、Qwen3 两个家族 0.5B–8B 共八个规模上，单一检查点使 MTEB 提升 3.3–4.1 分，同时收紧 BRIGH…
arXiv NLP10 天前
★ 2
路径签名嵌入：用迭代积分刻画词汇相似度
论文提出以 Word2Vec 轨迹的路径签名构造句向量，借助粗糙路径理论的迭代积分显式编码词序与词汇结构。实验显示平均池化几乎无法捕捉字符级编辑距离，而深度 2 的路径签名与 Levenshtein、Jaro-Winkler 等指标高度对齐，并提供可解释的词汇追踪替代方案。
arXiv NLP8 小时前
★ 2
PEEL：从检索嵌入中提取本体层级结构
论文发现 Matryoshka 表示学习（MRL）嵌入的前缀长度与金标准分类学的粗细粒度对齐，并提出 PEEL 方法：在冻结嵌入上训练一次序嵌入目标，再用最小生成树解码分类 DAG。仅用概念词表、无需文档，即可在两个 OLLM 基准上高保真还原层级结构并跨域迁移。
arXiv NLP8 小时前
★ 2
嵌入检索+LLM 过滤在随机试验语料中召回 92% 证据
论文比较标签检索与「文本嵌入召回候选 + 语言模型筛选」两阶段方案，在 7354 项随机对照试验语料上，标签检索仅找到系统综述所需证据的 45%，新方法达到 92%，但单次查询成本随检索深度上升。结果支持广召回加查询特定证据过滤的架构。
arXiv NLP5 天前
★ 2
研究用嵌入聚类自动构建数学题教育分类体系
论文探索用语义文本嵌入对数学题聚类，自动构建教育分类体系，并与基于 Common Core 标准的现有知识点分类对比。在 ASSISTments 两个数据集上，嵌入分类与人工体系存在大量但不完全的重合，用于深度知识追踪时 AUC 提升约 3-5 个百分点。结果表明嵌入可自动恢复人工体系结构并提供有…
arXiv NLP6 天前
★ 2
论文研究文本嵌入模型量化校准的收益与风险
研究在 e5-base-v2、BGE-M3、EmbeddingGemma-300m 三个文本嵌入模型上做 4 比特权重量化，共 161 次校准实验，发现同一流程的结果可从提升到灾难性退化，关键驱动因素是更新剂量。作者据此把校准视为可选干预，并提出基于验证集置信区间的准入规则，在 30 次决策中未选…
arXiv cs.AI12 天前
★ 2
arXiv 论文提出跨域风格嵌入检测多作者写作
该论文研究用大语言模型进行多作者写作风格变化检测，发现直接使用现成 LLM 或仅在目标域微调效果不佳。作者提出跨域迁移学习，微调 Mistral-7B 嵌入模型并与 PAN-25 竞赛 SOTA 的 DeBERTa 对比，发现两者在不同用户生成文本场景各有优势，融合两种嵌入可提升检测效果。
arXiv NLP13 天前
这个主题的相关资产
相关术语文本嵌入