★ 2
研究:标点边界预测提升不必然改善语言模型结构表征
论文检验「用标点恢复优化短语结构可提升语言模型结构表征」这一说法,在解码器、编码器与编码器-解码器三类架构上做实验。结果显示在 10 亿参数以下规模,优化边界预测并不必然带来更高质量的结构表征,也未改善需要理解语言结构的下游任务表现。
arXiv NLP6 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文检验「用标点恢复优化短语结构可提升语言模型结构表征」这一说法,在解码器、编码器与编码器-解码器三类架构上做实验。结果显示在 10 亿参数以下规模,优化边界预测并不必然带来更高质量的结构表征,也未改善需要理解语言结构的下游任务表现。