Autoregressive Rollout（自回归展开）

自回归展开指模型在生成序列时，基于已生成的部分预测下一个元素，并将预测结果反馈作为下一步输入，循环直至结束。这种方法能捕捉序列的因果依赖，但存在误差累积和曝光偏差问题。在强化学习中，它用于生成完整轨迹以评估策略；在NLP中，GPT等模型通过自回归展开生成连贯文本。典型技术包括teacher forcing和 scheduled sampling，用于缓解训练与推理的不一致。