#表格分类

研究将知识蒸馏引入可微逻辑网络，精度最高提升 15%

论文提出面向可微逻辑网络（DLN）的知识蒸馏方法，从训练好的多层感知机教师模型蒸馏到 DLN 学生模型，不改变架构与推理流程。在 20 个公开表格分类任务上，蒸馏在门级运算量与模型规模几乎不变的前提下提升平衡类别准确率，最高提升 15%，部分任务甚至超过教师模型。