Janas 流式加载大模型

开源项目 Janas-LLM 用 C 语言编写，通过从 NVMe SSD 流式加载 MoE 专家权重，让 80B 参数模型在 32GB 内存笔记本上运行。实测 Qwen3-Next-80B 达 37 tok/s，全面快于 llama.cpp，支持 Linux 与 Windows。