★ 2
arXiv 论文：信息瓶颈编码器应学到什么，分离表征学习与码率控制
论文研究信息瓶颈（IB）中表征学习与码率控制能否解耦。作者证明在高斯数据下 IB 解可分解为与 β 无关的方向矩阵 W 和标量增益，并将该结论推广到非高斯情形，用充分性亏空 ε_F 刻画分离误差。在 MNIST、SVHN、CIFAR-10、STL-10 上，冻结 CNN 表征加每预算一个压缩器-解…
arXiv cs.LG5 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究信息瓶颈（IB）中表征学习与码率控制能否解耦。作者证明在高斯数据下 IB 解可分解为与 β 无关的方向矩阵 W 和标量增益，并将该结论推广到非高斯情形，用充分性亏空 ε_F 刻画分离误差。在 MNIST、SVHN、CIFAR-10、STL-10 上，冻结 CNN 表征加每预算一个压缩器-解…