★ 3
Dory1.0-4B 开源:循环深度语言模型,性能超 Qwen3.5-9B
研究团队发布 4B 参数循环(潜在递归)语言模型 Dory1.0-4B,基于 nGPT 骨干,单份权重可通过调整循环次数适配不同推理算力。预训练 6 万亿 token、上下文扩至 256K,两轮以上循环即在 12 项基准上平均超过 Qwen3.5-9B、Gemma 4 12B 与 Gemma 4 …
arXiv NLP14 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究团队发布 4B 参数循环(潜在递归)语言模型 Dory1.0-4B,基于 nGPT 骨干,单份权重可通过调整循环次数适配不同推理算力。预训练 6 万亿 token、上下文扩至 256K,两轮以上循环即在 12 项基准上平均超过 Qwen3.5-9B、Gemma 4 12B 与 Gemma 4 …