★ 2PreSTO:预测式子树叶预取加速 LLM 幂采样论文提出 PreSTO,通过预取未来 Metropolis-Hastings 提议,在不改变转移核的前提下加速 PowerMH 采样器。在七个数据集、五个基座 LLM 上,对 PowerMH、EntropyCut、MultiTryMH 分别取得 1.71×、1.91×、2.33× 中位加速,模型调…arXiv NLP21 天前