★ 3
FPA：以路径极值替代求和的遗忘门注意力机制
论文提出 First Passage Attention（FPA），将遗忘门注意力的路径求和改为路径极值，按学习标量场在区间内的最深下探成比例降低键的 logit，从而选择性擦除中间上下文而保留更早的结构相关 token。FPA 将 Forgetting Transformer 作为特例，理论上常…
arXiv NLP14 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出 First Passage Attention（FPA），将遗忘门注意力的路径求和改为路径极值，按学习标量场在区间内的最深下探成比例降低键的 logit，从而选择性擦除中间上下文而保留更早的结构相关 token。FPA 将 Forgetting Transformer 作为特例，理论上常…