Self-Speculative Decoding（自推测解码）

传统推测解码需额外的小模型草拟 token，而自推测解码让同一模型通过提前退出或跳跃层等方式快速生成候选 token，再由完整模型并行验证。若验证通过则接受多个 token，否则回退。这种方法无需辅助模型，节省内存，同时保持输出分布不变。实验表明，在文本生成任务中可提速 2-3 倍，尤其适合大模型部署。