arXiv cs.LG·25 天前★ 3

连续扩散语言模型训练对提示词加噪

原文标题：Noise Your Prompt: Noising Conditioning Tokens in Continuous Diffusion Language Models

重要度 3/5 · AI 综合评估报道影响力与新鲜度，4–5 分为高价值资讯。

AI 智能摘要

arXiv 论文挑战连续扩散语言模型训练中固定干净提示词的标准做法，改为在训练时对条件提示词加噪。该方法在数独、N 皇后等组合推理任务上显著提升泛化能力，数独困难版求解率从 3.73% 升至 24.65%，并提升生成多样性，代码已开源。

问题: 连续扩散语言模型训练时固定干净提示词，导致组合推理泛化差。
方法: 训练时也对条件提示词加噪，仅改一行训练目标，无需额外推理成本，支持无分类器引导采样。
结果: 数独困难版求解率 3.73%→24.65%，10x10 N 皇后覆盖率 50.60%→73.79%，Gigaword 摘要提升但开放对话无增益。
影响: 一行改动即可显著提升组合推理与多样性，适合需要约束求解的生成任务快速尝试。

深读 · 结论先行AI 生成展开看要点与影响 ↓

训练时给条件提示词加噪，数独困难版求解率从3.73%升至24.65%。

为什么重要：对连续扩散语言模型研究者是一个低成本、可复现的训练目标修正，但收益集中在组合推理而非所有NLP任务。

以上深读由 AI 依据标题/摘要/正文节选生成，仅供参考；事实以原文为准。

AI 处理过程展开/收起

原始标题：Noise Your Prompt: Noising Conditioning Tokens in Continuous Diffusion Language Models

AI 中文标题：连续扩散语言模型训练对提示词加噪

来源：arXiv cs.LG · 发布于 25 天前

分类：学术研究 · AI 重要度：★ 3（3）

标签：扩散语言模型 / 提示词加噪 / 组合推理 / 文本生成 / 开源代码

关键词：扩散语言模型 / 提示词加噪 / 组合推理 / 文本生成 / 无分类器引导

AI 生成以上内容由 AI 自动生成：中文标题、摘要、分类与重要度；同一事件的多家报道会自动归并展示。内容仅供参考，可能存在偏差，请以原文为准，不构成任何投资或专业建议。
版权归原作者与原发布平台所有；若涉及侵权或信息错误，请在举报与侵权投诉页反馈，我们会及时处理。

相关推荐