★ 3
One Block Ahead：提升扩散语言模型采样器状态
论文提出 One Block Ahead（OBA），一种免训练解码算法，在去噪当前块的同时并行去噪下一块。研究表明，对于均匀状态扩散语言模型，若下一块的 token 与采样器状态一同提升，并发解码可带来收益。在 DiffusionGemma 上，OBA 将每次前向的 token 数提升 42.3%…
arXiv NLP18 天前
#DiffusionGemma
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
在vLLM与Red Hat AI上运行决策模型
Red Hat发布技术文章，介绍如何借助DiffusionGemma在vLLM和Red Hat AI平台上运行决策模型。内容面向开发者，讲解部署与推理流程。这体现了开源推理栈在企业AI中的应用。
Hacker News – AI34 天前
这个主题的相关资产
相关公司Red Hat1