★ 2
深度神经网络中的逐层输入可恢复性研究
论文研究卷积神经网络中每层输出能在多大程度上恢复该层输入,采用基于重建的探针在采样输入块上评估,使方法可扩展至宽特征图的深层 CNN。在九个 ImageNet CNN 上,可恢复性总体随深度下降,但更一致地由该层压缩程度预测。研究还引入单属性随机对照,发现复制预训练奇异向量通常提升可恢复性,而复制…
arXiv cs.LG19 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文研究卷积神经网络中每层输出能在多大程度上恢复该层输入,采用基于重建的探针在采样输入块上评估,使方法可扩展至宽特征图的深层 CNN。在九个 ImageNet CNN 上,可恢复性总体随深度下降,但更一致地由该层压缩程度预测。研究还引入单属性随机对照,发现复制预训练奇异向量通常提升可恢复性,而复制…