★ 2
研究称大模型内部情感表征过度压缩为积极与消极两类
论文在 GoEmotions 数据集上研究 7 个大模型对 27 类细粒度情感的内部表征,发现相对细粒度分类体系存在一致的「过度压缩」现象:无监督聚类最清晰的分界是积极与消极两类,更粗的情感族与情感极性分组也能用更少簇恢复。但线性探针仍保留大量细粒度预测信息,说明细粒度情感信息可访问,只是更粗的情…
arXiv NLP10 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文在 GoEmotions 数据集上研究 7 个大模型对 27 类细粒度情感的内部表征,发现相对细粒度分类体系存在一致的「过度压缩」现象:无监督聚类最清晰的分界是积极与消极两类,更粗的情感族与情感极性分组也能用更少簇恢复。但线性探针仍保留大量细粒度预测信息,说明细粒度情感信息可访问,只是更粗的情…