★ 2
arXiv 研究：LLM 语言习得中的形态、语义与分歧
论文利用 Pythia、OLMo 等开源模型的中间检查点，在教师强制评估下系统考察语言习得随训练步与模型规模的变化。研究发现模型在语义嵌入稳定之前就已习得形态结构，训练数据规模正向影响分歧识别，而预训练共现与推理重复则产生负面影响。
arXiv cs.LG18 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文利用 Pythia、OLMo 等开源模型的中间检查点，在教师强制评估下系统考察语言习得随训练步与模型规模的变化。研究发现模型在语义嵌入稳定之前就已习得形态结构，训练数据规模正向影响分歧识别，而预训练共现与推理重复则产生负面影响。