#推理基础设施

共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 4

Mind Lab发布自迭代后训练平台与Macaron-V1.1

Mind Lab发布面向行业的模型后训练与推理平台Mint Recursive,以及基于该平台训练的Macaron-V1.1模型。Macaron-V1.1基于GLM-5.3后训练,参数752B,由744B基座加四个2B LoRA专家模块组成,覆盖Chat、Agent、Coding与生成式UI。平台…

36氪39 天前
★ 2

开发者开源 Sturnus:基于延迟的 LLM 负载均衡器

开发者发布单静态二进制工具 Sturnus,按各 LLM 提供商的延迟与可用性自动分配流量,慢速或报错提供商会保留少量探测流量以便自动恢复。工具兼容 OpenAI API,无需 Redis 或数据库,MIT 许可,定位为轻量 sidecar。

Hacker News – LLM6 天前

相关标签

推理基础设施 最新资讯与动态(2 篇) - 智讯 AI News