★ 3
Next-Concept Modeling：快速并行由粗到细文本生成
研究者提出 Next-Concept Modeling（NCM），一种两阶段由粗到细框架：多尺度残差 VQ-VAE 将文本编码为离散码层级，Transformer 逐层并行预测。在 LM1B 上生成困惑度优于最强扩散语言模型基线且快 21 倍，OpenWebText 上快 10 倍，XSum 上快…
arXiv NLP19 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者提出 Next-Concept Modeling（NCM），一种两阶段由粗到细框架：多尺度残差 VQ-VAE 将文本编码为离散码层级，Transformer 逐层并行预测。在 LM1B 上生成困惑度优于最强扩散语言模型基线且快 21 倍，OpenWebText 上快 10 倍，XSum 上快…