技术
token fidelity(令牌保真度)
token fidelity(令牌保真度)指在文本生成或修改任务中,模型输出与输入在令牌级别上保持一致的程度,常用于评估文本风格迁移、对抗攻击等任务中内容保留的能力。高保真度意味着在改变特定属性的同时,最小化对原始令牌的改动。
详细解释
在自然语言处理中,token fidelity通常通过计算输入与输出之间相同令牌的比例或编辑距离来衡量。例如,在文本风格迁移中,模型需改变风格但保留内容,此时高token fidelity表明内容保留得好。在对抗性攻击中,攻击者通过替换少量令牌使模型误判,token fidelity衡量攻击的隐蔽性。相关研究常使用BLEU、ROUGE等指标,但token fidelity更细粒度。
别名与相关写法
token fidelity