★ 2
研究用合成语料考察语言模型对动作名词化构式的学习偏好
论文用语法工程方法构建 96 种目标语言的合成语料,从零训练 GPT-2-small 并以 34 类语法现象的最小对评测。结果显示模型在基本小句配置上与语言类型学分布一致,但在补语系统与动作名词化策略上出现分歧,还会学到自然语言中罕见或未见的组合。
arXiv NLP14 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文用语法工程方法构建 96 种目标语言的合成语料,从零训练 GPT-2-small 并以 34 类语法现象的最小对评测。结果显示模型在基本小句配置上与语言类型学分布一致,但在补语系统与动作名词化策略上出现分歧,还会学到自然语言中罕见或未见的组合。
研究将 QuanLing 语言距离量化框架从北日耳曼语系扩展至西罗曼语系(法、葡、西、意),使用 LaBSE 句向量距离、分词碎片率与 mBERT 掩码语言模型互懂度。结果显示葡西最近、法意最远,LaBSE 与 mBERT 在 6 对语言中 4 对排序一致,验证了跨模型稳健性。