★ 2
GCG 提出全局上下文引导，提升扩散语言模型生成质量
论文分析扩散大语言模型在去噪过程中更依赖局部上下文而忽视全局上下文，据此提出特征空间引导方法 GCG，无需额外构建弱模型即可增强全局上下文利用。在 LLaDA-8B、Dream-7B 与 LLaDA-1.5 上，GCG 稳定优于现有引导方法且推理开销更低。
arXiv NLP5 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文分析扩散大语言模型在去噪过程中更依赖局部上下文而忽视全局上下文，据此提出特征空间引导方法 GCG，无需额外构建弱模型即可增强全局上下文利用。在 LLaDA-8B、Dream-7B 与 LLaDA-1.5 上，GCG 稳定优于现有引导方法且推理开销更低。