★ 2
研究用影响函数定位语法泛化的间接证据,移除后准确率中位降 12 分
论文用影响函数衡量训练句子对 BLiMP 十五类语法现象预测的影响,剔除直接证据后取最具影响力的 6 万句作为间接证据。重训时去掉这些句子,五个模型在所有现象上的留出准确率中位下降 12 分,且这些句子满足直接证据结构条件的比率约为随机组的 4.7 倍。按间接证据重叠聚类还能复原五个 BLiMP …
arXiv NLP14 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文用影响函数衡量训练句子对 BLiMP 十五类语法现象预测的影响,剔除直接证据后取最具影响力的 6 万句作为间接证据。重训时去掉这些句子,五个模型在所有现象上的留出准确率中位下降 12 分,且这些句子满足直接证据结构条件的比率约为随机组的 4.7 倍。按间接证据重叠聚类还能复原五个 BLiMP …
研究提出邻域加权 RSA 与反事实 RSA 两种方法,解析不同 LLM 在何处对齐、由何种语言属性支撑。发现模型在粗粒度表征几何上高度一致,但局部邻域差异显著;逻辑辖域变化对对齐的削弱远大于句法、事件角色或语篇结构变化。
一篇arXiv论文提出「共语言学」概念,探讨如何用AI辅助语言学理论构建。研究尝试将大模型作为理论探索的协作工具,属于AI与人文社科交叉的方法论探索。