模型
BERT
BERT是谷歌提出的预训练语言模型,通过双向Transformer学习深层文本表示。
详细解释
BERT(Bidirectional Encoder Representations from Transformers)使用Transformer编码器,通过掩码语言模型和下一句预测任务进行预训练。它首次实现深度双向上下文表示,在多项NLP任务上刷新纪录。BERT开创了“预训练+微调”范式,后续衍生出RoBERTa、ALBERT等变体,推动NLP进入新时代。
别名与相关写法
bert
相关术语
相关公司
相关资讯
UltraBERT:突破 BERT 预训练极限的双向编码器2026/10/14
Albertsons 用 ChatGPT 企业版重塑零售2026/10/2
Reactive Optimizers:训练过程中动态重写优化器源码2026/10/25
arXiv 研究闭集决策编码器:6800 万参数超越 DeBERTa-v32026/10/23
研究:微调 RoBERTa 与 GPT-3.5 集成兼顾成本与性能2026/10/20