★ 2
多专家区间标签的不确定性感知学习
论文针对多专家提供区间标签的场景,区分标签内不精确性与专家间差异两类不确定性来源。方法将异构标签词表统一到概率标签空间,用 Beta 混合分布建模个体区间标签并以 Cramér 距离目标训练,再将预测不确定性分解为组件内、组件间与模型不确定性,并引入分解匹配对齐。在海冰浓度任务上,MAE 相比硬标…
arXiv cs.LG31 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文针对多专家提供区间标签的场景,区分标签内不精确性与专家间差异两类不确定性来源。方法将异构标签词表统一到概率标签空间,用 Beta 混合分布建模个体区间标签并以 Cramér 距离目标训练,再将预测不确定性分解为组件内、组件间与模型不确定性,并引入分解匹配对齐。在海冰浓度任务上,MAE 相比硬标…
论文以概率视角统一梳理大语言模型:将 LLM 描述为 token 序列上的概率测度,训练即最大似然估计,生成即随机过程的序贯模拟。文章还探讨 KL 散度不对称性与幻觉、统计合理性与真实性之间的关系,并延伸讨论基于得分函数的扩散模型。
扭曲高斯过程通过参数化变换将非高斯观测映射到潜在标准高斯过程,但现有流式方法要么周期性优化扭曲参数,要么牺牲解析可处理性。论文证明扭曲高斯过程瞬时负对数似然的梯度存在精确递归计算,并据此提出一种在线方法,可同时更新潜在高斯过程矩并优化扭曲参数。