★ 3
欧洲开源 Kolibri 模型发布:78.1B 总参数、Apache 2.0 授权
报告介绍 Kolibri,一个英德双语混合专家 Transformer,总参数 78.1B、每 token 激活 3.46B,以 Apache 2.0 开源权重发布,面向德国及公共管理、工业、航空航天等受监管领域的主权部署。模型训练 24T token,德语占比超 20%,在英德双语开源模型中处于…
arXiv NLP7 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
报告介绍 Kolibri,一个英德双语混合专家 Transformer,总参数 78.1B、每 token 激活 3.46B,以 Apache 2.0 开源权重发布,面向德国及公共管理、工业、航空航天等受监管领域的主权部署。模型训练 24T token,德语占比超 20%,在英德双语开源模型中处于…