模型
Oracle Transformer
一种利用预言机(Oracle)信息增强Transformer的模型,旨在提升推理或决策能力。
详细解释
Oracle Transformer通常指在Transformer架构中引入外部知识源或预言机信号,以指导模型生成更准确的输出。例如,在程序合成中,预言机可提供执行反馈;在强化学习中,可提供价值估计。其技术核心是将预言机信息编码为额外输入或注意力偏置,从而增强模型的推理能力。
别名与相关写法
oracle transformer
一种利用预言机(Oracle)信息增强Transformer的模型,旨在提升推理或决策能力。
Oracle Transformer通常指在Transformer架构中引入外部知识源或预言机信号,以指导模型生成更准确的输出。例如,在程序合成中,预言机可提供执行反馈;在强化学习中,可提供价值估计。其技术核心是将预言机信息编码为额外输入或注意力偏置,从而增强模型的推理能力。