★ 3
oMLX 0.7.4 发布:第二台 Mac 可将本地大模型预填充加速 2.9 倍
开源项目 oMLX 发布 0.7.4.dev1 开发版,支持用一台配备更快 GPU 的 Mac(如 M5 Max)为内存更大的 Mac(如 M3 Ultra 512GB)分担预填充计算,64K 长提示预填充提速约 2.9 倍。同时优化了 DeepSeek V4.1、Qwen3.8 Flash-Ne…
Hacker News – LLM1 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
开源项目 oMLX 发布 0.7.4.dev1 开发版,支持用一台配备更快 GPU 的 Mac(如 M5 Max)为内存更大的 Mac(如 M3 Ultra 512GB)分担预填充计算,64K 长提示预填充提速约 2.9 倍。同时优化了 DeepSeek V4.1、Qwen3.8 Flash-Ne…