★ 3
研究揭示离散扩散模型逐步生成置信度的理论局限
论文研究离散扩散模型（含remasking与uniform-state采样器）的生成机制，指出只有当写入位置在已固定token条件下相互独立时，单步才匹配训练分布。研究表明逐位置分布的乘积无法匹配存在依赖关系的token组。
Apple Machine Learning Research31 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究离散扩散模型（含remasking与uniform-state采样器）的生成机制，指出只有当写入位置在已固定token条件下相互独立时，单步才匹配训练分布。研究表明逐位置分布的乘积无法匹配存在依赖关系的token组。
论文提出「稀疏先验」类与「稀疏维度」概念，用以刻画真实分布的结构稀疏性。在 k-稀疏先验下，分布学习的贝叶斯风险下界为 Ω(√(k/n))，并在温和假设下给出 TV 距离的匹配上界。结果表明合适的先验可克服对样本量 n 的维度诅咒，且结论同样适用于「学习采样」。