★ 3SpikeOPD:脉冲语言模型稳定同策略蒸馏提出SpikeOPD,一种用于自回归尖峰语言模型的稳定在线策略蒸馏框架,解决前缀源不匹配问题。在多个模型规模上提升准确率,同时保持稀疏计算特性。arXiv cs.AI63 天前