模型

Roberta

Facebook 提出的稳健优化版 BERT 预训练语言模型，通过更大数据与动态掩码提升下游任务表现。

收录于 2026/10/27相关资讯 2 篇近 30 天 2 篇在词典中查看 →

详细解释

RoBERTa（A Robustly Optimized BERT Pretraining Approach）由 Liu 等人于 2019 年发布，在 BERT 基础上取消下一句预测任务、采用动态掩码、扩大批次与训练数据（含 160GB 文本）并延长训练。它在 GLUE、SQuAD 等基准上刷新成绩，证明预训练充分性对性能至关重要。RoBERTa 已成为文本分类、问答与序列标注等任务的常用基座模型。

别名与相关写法
roberta

相关术语

BERT共现 2 篇
微调共现 1 篇
GPT共现 1 篇

相关资讯

完整术语表见 AI 术语词典； 每日新术语与进展见 AI 早报。