技术

inference-time compute（推理时计算）

Inference-time compute 指在模型推理阶段动态增加计算资源（如采样多次、搜索或验证）以提升输出质量，而非仅依赖训练时计算。它解决了复杂推理任务中模型能力不足的问题，典型应用包括思维链采样和树搜索，代表工作有 OpenAI 的 o1 模型和 Self-Consistency。

收录于 2026/9/3相关资讯 1 篇在词典中查看 →

详细解释

传统缩放定律关注训练计算，但推理时计算能在不更新参数的情况下提升性能。方法包括多次采样投票（Self-Consistency）、思维树搜索、以及训练验证器筛选答案。OpenAI o1 通过强化学习让模型在推理时生成长思维链，显著提升数学和编程表现。该方向强调测试时计算与训练计算的权衡，是当前大模型研究热点。

别名与相关写法
inference-time compute

相关术语

inference-time共现 1 篇

相关资讯

完整术语表见 AI 术语词典； 每日新术语与进展见 AI 早报。