★ 2
LLM 蒸馏多标签主题:生成式与判别式对比
论文比较了 1B、4B、8B 小模型在生成式与判别式架构下的多标签主题分配表现,用于电商用户生成内容。结果显示判别式模型在结构化评论上更优,而最小 1B 生成式模型在多轮对话数据上超过判别式基线,并在标签集扩展时保持稳健。
arXiv cs.LG25 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文比较了 1B、4B、8B 小模型在生成式与判别式架构下的多标签主题分配表现,用于电商用户生成内容。结果显示判别式模型在结构化评论上更优,而最小 1B 生成式模型在多轮对话数据上超过判别式基线,并在标签集扩展时保持稳健。