★ 3
研究揭示离散扩散模型逐步生成置信度的理论局限
论文研究离散扩散模型（含remasking与uniform-state采样器）的生成机制，指出只有当写入位置在已固定token条件下相互独立时，单步才匹配训练分布。研究表明逐位置分布的乘积无法匹配存在依赖关系的token组。
Apple Machine Learning Research31 天前
#采样器
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
LEDFlow：熵引导生成顺序的离散流采样器
论文指出均匀离散流在重复更新中会让原本正确的中间预测被后续错误覆盖（数独实验中 9.4% 单元格如此）。作者提出免训练的 LEDFlow 采样器，按局部熵自适应决定吸收顺序，在数独推理、文生图与多模态理解基准上均取得提升，推理成本与标准流采样相当。
arXiv cs.LG40 天前