★ 2
SCAPE-T:用编码器注意力量化文本语义复杂度
研究者将语义复杂度定义为唯一确定文本语义所需的编码长度,并提出基于仅编码器 Transformer 注意力的指标 SCAPE-T,融合自注意力、CLS 关注与头间冗余三个子指标。在控制词长条件下,成对判别准确率达 78.5%,比最强基线高 12.7 个百分点。消融显示各子指标均有实质贡献。
arXiv NLP6 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究者将语义复杂度定义为唯一确定文本语义所需的编码长度,并提出基于仅编码器 Transformer 注意力的指标 SCAPE-T,融合自注意力、CLS 关注与头间冗余三个子指标。在控制词长条件下,成对判别准确率达 78.5%,比最强基线高 12.7 个百分点。消融显示各子指标均有实质贡献。