Hacker News – LLM·4 小时前★ 3
开发者用 C 写出 3KB 的 LLM 推理引擎，可塞进二维码
原文标题：Show HN: A 3KB LLM inference engine in C
重要度 3/5 · AI 综合评估报道影响力与新鲜度，4–5 分为高价值资讯。
AI 智能摘要
开发者开源 bytesized 项目，用 C 语言实现仅 2946 字节的 LLM 推理引擎，可运行 SmolLM2-135M 并逐 token 匹配 Hugging Face transformers 的贪心解码结果。整个二进制小到能装进单个二维码，需 arm64 Linux 环境运行。
所属主题开源15
阅读原文 +0
AI 处理过程展开/收起
原始标题：Show HN: A 3KB LLM inference engine in C
AI 中文标题：开发者用 C 写出 3KB 的 LLM 推理引擎，可塞进二维码
来源：Hacker News – LLM · 发布于 4 小时前
分类：开源 · AI 重要度：★ 3（3）
标签：开源 / 推理引擎 / C 语言 / SmolLM2 / 极致精简
关键词：3KB 推理引擎 / SmolLM2 / C 语言 LLM / 极简推理引擎 / bytesized
AI 处理：2026/11/4 03:00:54 · 模型 deepseek-chat · 规则版本 2026-10-21.1
相关推荐
arXiv NLP·17 小时前★ 4
Meta 开源 GSLM2：多流语音表示学习缩小语音与文本模型差距
AI 摘要Meta 研究团队发布 GSLM2，其 SpidR 2.0 编码器用自监督学习在多个抽象层级生成离散语音单元，多流语音语言模型联合建模这些单元。训练规模达 600 万小时、65 亿参数，在 sWuggy、sBLIMP、tSC 上把语音与文本模型差距缩小约两个数量级。训练代码与模型权重已在 GitHub 开源。
#开源
Lovable·4 天前★ 4
阿里蔡崇信：千问开源模型全球累计下载超 40 亿次
AI 摘要在世界互联网大会乌镇峰会开幕式上，阿里巴巴董事会主席蔡崇信表示 AI 只有开源开放才能普惠普及。他透露阿里千问已开源超 470 款模型，全球累计下载量突破 40 亿次，衍生模型超 33 万个，位列全球第一。
#开源
量子位·3 天前★ 4
DeepSeek 重磅开源 Agent 底座架构
AI 摘要DeepSeek 开源一套面向 Agent 的底座架构，据称 AI 已能自行定位 Bug 并提交 PR。该开源动作指向智能体工程化基础设施，可能影响 Agent 开发范式。
#开源
TechCrunch AI·5 天前★ 4
Mistral 开源万亿参数模型权重，主攻网络安全
AI 摘要Mistral 发布其万亿参数模型的权重，主打网络安全场景，称开放权重能让组织获得闭源模型无法提供的防御控制权。这是欧洲大模型厂商在开源路线上的又一次重要动作。
#开源