★ 2
AutoIndexer:通过编辑链训练因果模型实现灵活顺序解码
论文提出 AutoIndexer,一种模拟「编辑链」的生成模型训练与解码机制,允许模型通过插入、替换和删除 token 事后灵活修改先前输出。模型学习预测编辑的开闭标记 token 并移动光标,类似文本编辑器。该方法具备多数自回归与扩散模型缺乏的生成后上下文编辑能力,且不损害标准基准表现。
arXiv NLP21 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 AutoIndexer,一种模拟「编辑链」的生成模型训练与解码机制,允许模型通过插入、替换和删除 token 事后灵活修改先前输出。模型学习预测编辑的开闭标记 token 并移动光标,类似文本编辑器。该方法具备多数自回归与扩散模型缺乏的生成后上下文编辑能力,且不损害标准基准表现。