#LLM网关

共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 2

CloudGrip:开源AI代理限制LLM API预算

CloudGrip 是一个轻量级自托管 AI 代理网关与仪表盘,基于 Node.js、Express 和 SQLite 构建,用于管理 LLM API 预算并控制执行循环。它作为本地断路器代理,强制预算上限并提供实时 API 支出与请求日志可见性,防止失控的智能体循环耗尽预算。

Hacker News – AI25 天前

相关标签

LLM网关 最新资讯与动态(1 篇) - 智讯 AI News