★ 3
研究评估 LLM 智能体能否在上下文中做贝叶斯推断
研究系统评估大模型在上下文中进行贝叶斯信念更新的能力，涵盖定性认识论示例、定量基准与非贝叶斯更新对下游任务的影响。结果显示 LLM 通常违反贝叶斯规则，但配备现代推理能力与代码执行后性能大幅提升，甚至可近似解析不可解的后验。这表明带工具的 LLM 已可用于科学发现中的复杂信念更新。
arXiv cs.AI11 天前
#贝叶斯推断
共 10 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
论文分析语言模型能否继承 Solomonoff 归纳
论文运用算法信息论、通用预测与贝叶斯一致性结果，分析语言模型能否逼近 Solomonoff 归纳。结论指出任何可计算模型都无法在统一意义上实现该目标，只能逐环境成立；并讨论上下文学习作为摊销贝叶斯推断等可继承性质。
arXiv cs.LG19 天前
★ 2
PoSE：用流匹配学习先验的配电网贝叶斯状态估计
论文提出 PoSE 方法，仅用流匹配训练的神经网络学习变电站注入分布，潮流方程与拓扑只在采样阶段通过卡尔曼式修正引入。在 IEEE 33 节点馈线上 CRPS 降低 6.7-7.5%，90% 区间覆盖率接近精确后验。240 节点不平衡三相馈线上各项误差最低，快速版本单快照耗时 0.2-0.6 秒。
arXiv cs.LG4 小时前
★ 2
研究提出 B-EAGLe 贝叶斯证据累积图分类框架
论文指出多数图神经网络框架是静态的，难以适应观测顺序到达的动态数据驱动应用系统（DDDAS）。作者提出受皮层-基底节-丘脑网络启发的 B-EAGLe 框架，将图分类重构为序贯证据累积过程，结合 GNN 编码器与贝叶斯累积器，仅在置信度足够时决策。CIFAR10 实验显示其具备竞争力并提供有原则的置…
arXiv cs.LG5 天前
★ 2
一步隐式采样实现摊销贝叶斯推断
论文提出一步隐式采样器 OSIS，利用短时 MCMC 动力学为隐式建模分布的演化定义局部目标。在渐近极限下，建模分布是 MCMC 核的不动点，从而采样自目标分布。OSIS 相比多步摊销采样器和非摊销 MCMC 基线表现良好，且采样时效率更高。
arXiv cs.LG21 天前
★ 2
大语言贝叶斯对重参数化不具不变性
论文揭示大语言贝叶斯（LLB）的证据下界加权依赖模型书写方式：对数边际似然对重参数化不变，但证据下界并非如此。在八校问题上中心化与非中心化程序测度相同，权重却相差6.1倍，跨似然族与维度差异可达31.9倍并改变符号。这会导致贝叶斯因子反转，作者提出通过验证自生成的重参数化来闭合这一窗口。
arXiv cs.LG31 天前
★ 2
异构观测下的生成式大气超分辨率
论文将大气重建问题形式化为生成式大气超分辨率，提出可组合观测接口，为单个预训练 13 变量大气扩散模型提供条件。接口将探空、飞机和地面站观测转换为源特定似然因子。相比仅用探空观测，R+A+S 组合使 ERA5 评估的 RMSE 降低 9.24%，且无需重新训练底层模型。
arXiv cs.LG38 天前
★ 2
贝叶斯上下文感知的大模型个性化价值对齐
论文指出既有价值对齐方法用静态价值画像跨提示对齐，忽视了价值维度显著性随情境变化。受勒温场论启发，作者将个人价值建模为先验、情境依赖偏好建模为后验，提出推理时方法 BaCVA，先估计情境价值显著性，再用双视角个性化模块推断后验偏好。该贝叶斯形式在基准上优于强基线，并借助先验提升数据效率。
arXiv cs.AI38 天前
★ 2
压缩活跃子空间实现可扩展贝叶斯推断
活跃子空间方法通过沿对输出影响最大的参数方向做推断来量化高维模型不确定性，但需存储大量全维梯度，随模型增大而不可行。论文提出压缩活跃子空间 CAS，先用结构化等距嵌入将参数映射到压缩空间，再在其中构建活跃子空间。方法大幅降低内存需求，使大模型贝叶斯推断可行，并在规模递增的神经网络上保持预测性能与稳…
arXiv cs.LG45 天前
★ 2
分布偏移下归纳图上的在线贝叶斯节点分类
针对演化图上节点分类需兼顾归纳泛化与不确定性校准的需求，论文在确定性GNN编码器上叠加随机末层参数，提出变分贝叶斯末层（VBLL）目标联合训练编码器与近似后验。测试时冻结编码器并施加在线拉普拉斯更新，对应带指数遗忘与KL锚定的幂先验贝叶斯模型。在五个分布偏移基准上，online GVBLL是唯一在…
arXiv cs.LG48 天前