★ 3
Resin 开源：面向 LLM 推理引擎的原生调度器
开发者 ekzhang 发布 Resin，一个用 Rust 编写的高性能 LLM 推理调度库，包含无头引擎、KV 缓存与指标服务，前向计算由模型专用内核实现。团队称 12 小时内用其为 DeepSeek-V4.1-Flash 与 GLM-5.3-Flash 构建独立引擎，性能比肩 vLLM 与 S…
Hacker News – LLM6 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
开发者 ekzhang 发布 Resin，一个用 Rust 编写的高性能 LLM 推理调度库，包含无头引擎、KV 缓存与指标服务，前向计算由模型专用内核实现。团队称 12 小时内用其为 DeepSeek-V4.1-Flash 与 GLM-5.3-Flash 构建独立引擎，性能比肩 vLLM 与 S…