技术
Embedding Inversion Attack(嵌入反演攻击)
Embedding Inversion Attack是一种从文本嵌入向量中重建原始文本的攻击方法,威胁隐私安全。它解决嵌入向量可能泄露敏感信息的问题,典型应用于评估嵌入模型隐私风险,代表工作有Morris等人的《Text Embeddings Reveal (Almost) As Much As Text》。
详细解释
文本嵌入广泛用于检索、聚类等,但研究表明,攻击者可通过训练逆映射模型,从嵌入向量高精度恢复原始文本。该攻击利用嵌入空间与文本空间的对应关系,甚至可处理未见过句子。防御措施包括差分隐私、嵌入扰动等,但会牺牲效用。
别名与相关写法
embedding inversion attack