Language Model（语言模型）

语言模型（LM）是自然语言处理的核心，基于统计或神经网络学习词语序列的概率分布。传统N-gram模型受限于数据稀疏，而神经网络LM（如RNN、Transformer）能捕捉长距离依赖。预训练语言模型（如BERT、GPT）通过大规模语料预训练，再微调适应下游任务，极大推动了机器翻译、问答等应用的发展。