★ 2
研究用儿童家庭录音训练小 GPT-2,揭示数据来源与多样性对语言学习的影响
论文用密集家庭录音(BabyView)与合成儿童导向对话(TinyDialogues)训练小型 GPT-2,变化数据量、来源与多样性。发现模型对训练所在儿童的语言环境预测显著更好,且该专化多为词汇与分布层面;多儿童数据提升整体预测但语法基准改善不明显。结果表明小数据语言学习取决于数据来自哪些环境及…
arXiv NLP5 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文用密集家庭录音(BabyView)与合成儿童导向对话(TinyDialogues)训练小型 GPT-2,变化数据量、来源与多样性。发现模型对训练所在儿童的语言环境预测显著更好,且该专化多为词汇与分布层面;多儿童数据提升整体预测但语法基准改善不明显。结果表明小数据语言学习取决于数据来自哪些环境及…
一篇 arXiv 论文利用 BabyView 语料库(48 名儿童、2441 小时纵向第一视角视频)检验「跨情境学习」这一儿童词汇习得假说。结果显示模型能学到物体—标签映射,但使用互联网预训练视觉表征时效果远高于仅从发育视频中学习表征。研究还发现学习信号主要来自少数描述可见指称物的话语,且模型训练…