各方报道 1 篇
Hacker News – AI·10-01 05:06★ 4
Strata：在普通游戏PC上运行1250亿参数模型
原文 开源项目Strata让用户仅用一张12-24GB显存的NVIDIA显卡加64GB内存，就能在Windows或Linux上运行1250亿参数的Qwen3.8-Flash-Next模型。实测在RTX 5070上可达每秒60-95个token，支持多卡并行与一键安装。
开源项目Strata让用户仅用一张12-24GB显存的NVIDIA显卡加64GB内存，就能在Windows或Linux上运行1250亿参数的Qwen3.8-Flash-Next模型。实测在RTX 5070上可达每秒60-95个token，支持多卡并行与一键安装。