技术
Test-time Compute(测试时计算)
测试时计算指在推理阶段动态增加计算量(如多次采样、搜索或验证)以提升模型性能,解决训练后模型能力固定的问题。典型应用包括复杂推理和代码生成,代表工作有OpenAI的o1模型和思维链。
详细解释
测试时计算通过分配更多计算资源在推理时提升输出质量,例如使用束搜索、自洽性投票或树搜索。与训练时计算 scaling 不同,它允许模型在遇到难题时“思考更久”。技术包括过程奖励模型和搜索算法。评估显示,增加测试时计算可显著提高数学和逻辑任务准确率。
别名与相关写法
test-time compute