技术
解码策略
决定语言模型如何从预测的概率分布中逐步选出输出词序列的方法。
详细解释
语言模型每步输出词表上的概率分布，解码策略负责据此生成文本。常见方法包括贪心搜索、束搜索、温度采样、Top-k采样、核采样（Top-p）与对比解码等。贪心与束搜索偏向高概率、确定性输出，采样方法则提升多样性与创造性。不同策略在质量、多样性、重复性与计算成本之间权衡，是推理阶段影响生成效果的关键环节。
别名与相关写法
解码策略
决定语言模型如何从预测的概率分布中逐步选出输出词序列的方法。
语言模型每步输出词表上的概率分布，解码策略负责据此生成文本。常见方法包括贪心搜索、束搜索、温度采样、Top-k采样、核采样（Top-p）与对比解码等。贪心与束搜索偏向高概率、确定性输出，采样方法则提升多样性与创造性。不同策略在质量、多样性、重复性与计算成本之间权衡，是推理阶段影响生成效果的关键环节。