★ 2
研究者发布冰岛语 ModernBERT 编码器，参数覆盖 1200 万至 10 亿
一篇 arXiv 论文基于 ModernBERT 架构训练了冰岛语编码器，参数规模从 1200 万到 10 亿，使用 90 亿 token 开放数据。其中 10 亿参数版本据称是首个该规模的单语冰岛语编码器，在全部 11 项任务上显著优于 IceBERT。研究还系统验证了从英语 Ettin 编码器…
arXiv NLP5 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
一篇 arXiv 论文基于 ModernBERT 架构训练了冰岛语编码器，参数规模从 1200 万到 10 亿，使用 90 亿 token 开放数据。其中 10 亿参数版本据称是首个该规模的单语冰岛语编码器，在全部 11 项任务上显著优于 IceBERT。研究还系统验证了从英语 Ettin 编码器…