arXiv NLP·7 天前★ 3

arXiv 发布拉丁语编码器 LAMB 及两个语料库

原文标题:LAMB: A Modern Contextual Language Model for Latin

重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。

AI 智能摘要

研究者推出基于 ModernBERT 架构的拉丁语编码器 LAMB,分两阶段在超 740 亿拉丁语 上预训练,并采用形态学驱动的掩码策略。同时发布 Acervus 与 Corpus Trinum 两个语料库,后者为首个拉丁语语义三元组数据集。在 17 个子任务中 LAMB 于 16 项超越所有对比模型。

深读 · 结论先行AI 生成展开看要点与影响 ↓

拉丁语编码器LAMB在17个子任务中16项超越所有对比模型,并发布两个语料库。

  • •基于ModernBERT架构,两阶段在超740亿拉丁语token上预训练,采用形态学驱动的掩码策略。
  • •Acervus语料含24B WordPiece token,其中超76万条来自严重损坏的文本,由专训的ByT5模型修复。
  • •Corpus Trinum含超1亿强弱拉丁语语义三元组,为首个拉丁语语义三元组数据集。
  • •基准覆盖5个任务、17个子任务,对比15个预训练编码器与6个LAMB检查点;LAMB在16项胜出,第17项距SOTA仅0.8个百分点。

为什么重要:低资源古典语言长期缺专用编码器与数据,LAMB同时补齐模型与语料,对数字人文与拉丁语NLP研究是直接可用的基座。

以上深读由 AI 依据标题/摘要/正文节选生成,仅供参考;事实以原文为准。

阅读原文 +0
AI 处理过程展开/收起
原始标题:LAMB: A Modern Contextual Language Model for Latin
AI 中文标题:arXiv 发布拉丁语编码器 LAMB 及两个语料库
来源:arXiv NLP · 发布于 7 天前
分类:大模型 · AI 重要度:★ 3(3)
标签:拉丁语模型 / 编码器 / 预训练 / 数据集
关键词:LAMB 拉丁语模型 / ModernBERT / 拉丁语 NLP / 语义三元组数据集
AI 处理:2026/10/26 12:01:29 · 模型 deepseek-chat · 规则版本 2026-10-21.1
AI 生成以上内容由 AI 自动生成:中文标题、摘要、分类与重要度;同一事件的多家报道会自动归并展示。 内容仅供参考,可能存在偏差,请以原文为准, 不构成任何投资或专业建议。
版权归原作者与原发布平台所有;若涉及侵权或信息错误,请在举报与侵权投诉页反馈,我们会及时处理。
每天 09:30,3 条 AI 圈真正重要的变化,免费订阅 →
arXiv 发布拉丁语编码器 LAMB 及两个语料库 - 智讯 AI News