★ 2
研究揭示掩码扩散语言模型提交顺序受块调度影响
论文用 Spearman 秩恒等式分析块式掩码扩散语言模型的 token 提交顺序,指出顺序块调度会让提交看似强烈从左到右,即使块内顺序随机。在 LLaDA-8B-Instruct 上校准后,块内相关性明显低于原始残差暗示的水平,强调需按调度解读提交顺序。
arXiv cs.LG6 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文用 Spearman 秩恒等式分析块式掩码扩散语言模型的 token 提交顺序,指出顺序块调度会让提交看似强烈从左到右,即使块内顺序随机。在 LLaDA-8B-Instruct 上校准后,块内相关性明显低于原始残差暗示的水平,强调需按调度解读提交顺序。