★ 3
llama-modchip 开源:64GB 内存无 GPU 跑 284B DeepSeek-V4-Flash
开源项目 llama-modchip 发布预编译 Linux x86_64 二进制,可在纯 CPU、64GB 内存环境下运行 284B 参数的 DeepSeek-V4-Flash(56.56 GiB,9.1–14.7 tok/s),无需 GPU 与 NVMe 交换。项目采用自定义 Fractal-…
Hacker News1 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
开源项目 llama-modchip 发布预编译 Linux x86_64 二进制,可在纯 CPU、64GB 内存环境下运行 284B 参数的 DeepSeek-V4-Flash(56.56 GiB,9.1–14.7 tok/s),无需 GPU 与 NVMe 交换。项目采用自定义 Fractal-…