技术

Embedding Inversion Attack(嵌入反演攻击)

Embedding Inversion Attack是一种从文本嵌入向量中重建原始文本的攻击方法,威胁隐私安全。它解决嵌入向量可能泄露敏感信息的问题,典型应用于评估嵌入模型隐私风险,代表工作有Morris等人的《Text Embeddings Reveal (Almost) As Much As Text》。

收录于 2026/9/7相关资讯 0 篇在词典中查看 →

详细解释

文本嵌入广泛用于检索、聚类等,但研究表明,攻击者可通过训练逆映射模型,从嵌入向量高精度恢复原始文本。该攻击利用嵌入空间与文本空间的对应关系,甚至可处理未见过句子。防御措施包括差分隐私、嵌入扰动等,但会牺牲效用。

别名与相关写法
embedding inversion attack
Embedding Inversion Attack(嵌入反演攻击) 是什么?AI 术语解释 - 智讯 AI News