AI 事件专题★ 3

BitRun 1-bit LLM 运行器发布

BitRun 发布:CPU 上运行 1-bit LLM, M4 达 100T/s

10-15 01:05 首发·1 家媒体·1 篇报道·持续 1 天·开源
事件综述

开发者发布 BitRun,一个零编译、自包含的 1-bit 三元 运行器与模型管理器,支持 macOS、Windows、Linux CPU。它封装微软 b1.58 原生推理引擎,可拉取 模型、运行交互式聊天并启动 兼容 REST 服务。在 M4 Pro 上 70M 生成速度达 1355 t/s,主打本地、低功耗、无 GPU 。

各方报道 1 篇

Hacker News – LLM·10-15 01:05★ 3
BitRun 发布:CPU 上运行 1-bit LLM,苹果 M4 达 100T/s

开发者发布 BitRun,一个零编译、自包含的 1-bit 三元 运行器与模型管理器,支持 macOS、Windows、Linux CPU。它封装微软 BitNet b1.58 原生推理引擎,可拉取 模型、运行交互式聊天并启动 兼容 REST 服务。在 M4 Pro 上 BitNet 70M 生成速度达 1355 t/s,主打本地、低功耗、无 GPU 推理。

原文

关联

BitRun 1-bit LLM 运行器发布 最新进展 - 事件时间线 - 智讯 AI News