★ 2
RAPID：可靠性感知的成对重要性蒸馏
RAPID是一种新的关系蒸馏方法，将可靠性门控的关系目标与自适应成对提议分离，通过校准的教师熵和分离的学生-教师残差确定评估哪些关系。在AG News和SST-2上的实验表明，可靠性门控的关系蒸馏在两个数据集上均达到最高平均学生准确率，RAPID排名第二，优于交叉熵基线。研究支持目标可靠性和评估优…
arXiv cs.AI54 天前
#关系蒸馏
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
RAPID是一种新的关系蒸馏方法，将可靠性门控的关系目标与自适应成对提议分离，通过校准的教师熵和分离的学生-教师残差确定评估哪些关系。在AG News和SST-2上的实验表明，可靠性门控的关系蒸馏在两个数据集上均达到最高平均学生准确率，RAPID排名第二，优于交叉熵基线。研究支持目标可靠性和评估优…