#音频编码器

通过潜空间蒸馏压缩流式神经音频编码器

苹果设备上的系统级听写完全在设备端运行，语音通过分词器编码器映射为语言模型可读的表示。由于模型在指令跟随剪枝下稀疏激活，常驻分词器与专家竞争内存，其参数量直接影响功耗和延迟。该研究探索如何通过蒸馏压缩此类分词器。