★ 2
PreSTO：预测式子树叶预取加速 LLM 幂采样
论文提出 PreSTO，通过预取未来 Metropolis-Hastings 提议，在不改变转移核的前提下加速 PowerMH 采样器。在七个数据集、五个基座 LLM 上，对 PowerMH、EntropyCut、MultiTryMH 分别取得 1.71×、1.91×、2.33× 中位加速，模型调…
arXiv NLP21 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出 PreSTO，通过预取未来 Metropolis-Hastings 提议，在不改变转移核的前提下加速 PowerMH 采样器。在七个数据集、五个基座 LLM 上，对 PowerMH、EntropyCut、MultiTryMH 分别取得 1.71×、1.91×、2.33× 中位加速，模型调…