★ 2
面向智能体 What-If 推理的基础模型蒸馏:混合 LLM+SLM 架构
论文针对表格基础模型推理延迟高、难以用于交互式智能体热路径的问题,将 TabPFN 教师蒸馏为紧凑前馈学生模型。分类头参数从 5320 万压缩到 8546(约 6220 倍),部署的双头贷款流水线从 1.114 亿压缩到 17059(约 6532 倍),学生保留 95.4%-100.5% 准确率与…
arXiv cs.LG47 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文针对表格基础模型推理延迟高、难以用于交互式智能体热路径的问题,将 TabPFN 教师蒸馏为紧凑前馈学生模型。分类头参数从 5320 万压缩到 8546(约 6220 倍),部署的双头贷款流水线从 1.114 亿压缩到 17059(约 6532 倍),学生保留 95.4%-100.5% 准确率与…