各方报道 1 篇
arXiv NLP·10-20 12:00★ 2
研究蒸馏通用语音局部特征提取器，推理提速超 20%
原文 研究假设自监督语音模型中的 CNN 局部特征提取层可被简单通用模型替代，通过从 HuBERT、data2vec、WavLM 蒸馏学习两层特征提取器。在 SUPERB(-SG) 基准上基本保持教师模型性能，并可迁移至 wav2vec 2.0。该提取器仅需 CNN 3% 的 MACs，整体推理时间减少超 20%。
研究假设自监督语音模型中的 CNN 局部特征提取层可被简单通用模型替代，通过从 HuBERT、data2vec、WavLM 蒸馏学习两层特征提取器。在 SUPERB(-SG) 基准上基本保持教师模型性能，并可迁移至 wav2vec 2.0。该提取器仅需 CNN 3% 的 MACs，整体推理时间减少超 20%。