★ 3
新方法probe guidance提升扩散语言模型生成性能
研究者提出探针引导(probe guidance)方法,利用冻结的扩散模型内部状态构建引导信号,原理类似 autoguidance,但推理时无需额外前向传播。该方法在连续扩散语言模型的无条件生成任务上刷新了最优性能,为流匹配模型的引导提供了更可靠的路径。
Apple Machine Learning Research40 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究者提出探针引导(probe guidance)方法,利用冻结的扩散模型内部状态构建引导信号,原理类似 autoguidance,但推理时无需额外前向传播。该方法在连续扩散语言模型的无条件生成任务上刷新了最优性能,为流匹配模型的引导提供了更可靠的路径。
论文提出 probe guidance,利用现有扩散模型冻结的内部状态构建引导信号,原理类似 autoguidance 但无需推理时额外前向传播。在连续扩散语言模型上,该方法在无条件生成上刷新最优性能,并持续提升 1.7B 扩散语言模型的多选题基准表现。研究还揭示传统 autoguidance 中…