★ 3
开发者用 C 写出 3KB 的 LLM 推理引擎，可塞进二维码
开发者开源 bytesized 项目，用 C 语言实现仅 2946 字节的 LLM 推理引擎，可运行 SmolLM2-135M 并逐 token 匹配 Hugging Face transformers 的贪心解码结果。整个二进制小到能装进单个二维码，需 arm64 Linux 环境运行。
Hacker News – LLM5 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
开发者开源 bytesized 项目，用 C 语言实现仅 2946 字节的 LLM 推理引擎，可运行 SmolLM2-135M 并逐 token 匹配 Hugging Face transformers 的贪心解码结果。整个二进制小到能装进单个二维码，需 arm64 Linux 环境运行。