Inference-time Scaling（推理时扩展）

Inference-time Scaling是相对于训练时扩展（如增加模型参数或训练数据）的一种范式。它通过在推理时分配更多计算资源，例如生成多个候选答案并选择最佳、或让模型进行更长的内部推理（如思维链），来提升模型在数学、编程、逻辑推理等任务上的准确性。代表性工作包括OpenAI的o1系列模型，其通过强化学习训练模型生成长思维链，在推理时动态扩展计算。该技术表明，推理时计算可以显著提升模型性能，甚至超越单纯扩大模型规模的效果。