★ 2
LEAN 正则化重塑权重敏感度分布提升网络容错
论文提出 LEAN 方法,通过对梯度与翻转步长施加复合正则项,系统性地改变训练后模型的权重敏感度分布。在 9 个视觉模型上敏感尾部缩小 5-13 倍且精度损失小于 0.5 点,配合 BCH 码可抵御 300-500 次比特翻转攻击,并将 ImageNet ResNet-50 压缩至 3.29 比特…
arXiv cs.LG11 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 LEAN 方法,通过对梯度与翻转步长施加复合正则项,系统性地改变训练后模型的权重敏感度分布。在 9 个视觉模型上敏感尾部缩小 5-13 倍且精度损失小于 0.5 点,配合 BCH 码可抵御 300-500 次比特翻转攻击,并将 ImageNet ResNet-50 压缩至 3.29 比特…