★ 3
论文分析语言模型能否继承 Solomonoff 归纳
论文运用算法信息论、通用预测与贝叶斯一致性结果,分析语言模型能否逼近 Solomonoff 归纳。结论指出任何可计算模型都无法在统一意义上实现该目标,只能逐环境成立;并讨论上下文学习作为摊销贝叶斯推断等可继承性质。
arXiv cs.LG19 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文运用算法信息论、通用预测与贝叶斯一致性结果,分析语言模型能否逼近 Solomonoff 归纳。结论指出任何可计算模型都无法在统一意义上实现该目标,只能逐环境成立;并讨论上下文学习作为摊销贝叶斯推断等可继承性质。