#LLM 服务器

ZML 推出通用 LLM 服务器 llmd

ZML 发布名为 llmd 的通用大语言模型服务器项目，旨在为多种 LLM 提供统一的部署与推理服务接口。该工具在 Hacker News 上被分享，属于面向开发者的开源基础设施尝试。