★ 3
CoTranslator：逆向转正向思维链推理蒸馏
研究提出 CoTranslator，将逆向思维链响应翻译为经拒绝采样验证的正向响应分布，用于高效生成学生训练数据。在六个数学基准上平均准确率最高提升 5.82 个百分点，4B 学生模型以 35.9% 算力保留 95% 拒绝采样精度。该方法无需重训即可迁移至新数据集、教师与 STEM 任务。
arXiv NLP17 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究提出 CoTranslator，将逆向思维链响应翻译为经拒绝采样验证的正向响应分布，用于高效生成学生训练数据。在六个数学基准上平均准确率最高提升 5.82 个百分点，4B 学生模型以 35.9% 算力保留 95% 拒绝采样精度。该方法无需重训即可迁移至新数据集、教师与 STEM 任务。