★ 3
One Block Ahead：提升扩散语言模型采样器状态
论文提出 One Block Ahead（OBA），一种免训练解码算法，在去噪当前块的同时并行去噪下一块。研究表明，对于均匀状态扩散语言模型，若下一块的 token 与采样器状态一同提升，并发解码可带来收益。在 DiffusionGemma 上，OBA 将每次前向的 token 数提升 42.3%…
arXiv NLP18 天前
#解码算法
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
研究揭示投机解码中目标概率复用的效率提升条件
论文分析投机解码中目标模型验证产生的下一 token 分布能否用于选择下一轮草稿树。作者证明精确复用需在下一轮完整上下文上计算分布，并发现用当前上下文单独计算的分布对首 token 分支重排序可提升期望接受率，在树预算较小时尤为明显。代码已开源。
arXiv NLP11 天前