技术
reasoning tokens(推理令牌)
推理令牌(reasoning tokens)是模型在生成最终答案前产生的中间推理步骤对应的令牌序列,用于提升复杂任务的准确性和可解释性。典型应用包括数学解题和逻辑推理,代表工作有OpenAI o1和DeepSeek-R1。
详细解释
传统语言模型直接输出答案,缺乏显式推理过程。推理令牌通过让模型生成思维链(CoT),将问题分解为子步骤,从而增强推理能力。这些令牌通常不计入用户可见输出,但消耗计算资源。训练方法包括强化学习(如PPO)和拒绝采样。推理令牌提高了模型在数学、编程等任务上的表现,但也带来延迟和成本问题。
别名与相关写法
reasoning tokens
相关术语
相关公司
相关资讯
大模型推理token的状态表征作用2026/10/7
思考能提升公平性吗?推理 token 的双面效应2026/9/28