★ 3
Consus 推出面向敏感数据企业的 LLM 网关
YC F24 创业公司 Consus 发布 LLM 网关，将 AI 请求路由至符合 ITAR 和受控非机密信息（CUI）要求的基础设施。Consus 已完成针对 410 项 FedRAMP High 控制的等效性审计，可接入 ChatGPT、Claude 及开源工具，帮助航空航天与国防企业安全使用…
Hacker News – LLM19 天前
#LLM 网关
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
开发者开源 Sturnus：基于延迟的 LLM 负载均衡器
开发者发布单静态二进制工具 Sturnus，按各 LLM 提供商的延迟与可用性自动分配流量，慢速或报错提供商会保留少量探测流量以便自动恢复。工具兼容 OpenAI API，无需 Redis 或数据库，MIT 许可，定位为轻量 sidecar。
Hacker News – LLM6 天前
★ 2
开源项目 Secret Guard 推出本地 LLM 网关，密钥不出本机
开发者发布开源工具 Secret Guard，作为本地 LLM 网关，将发往模型厂商的请求中的密钥替换为等长仿真值，返回时再还原真实值。这样 Agent 工具可正常使用凭据，而 LLM 厂商始终接触不到真实密钥。支持拒绝转发、占位符等按密钥配置策略。
Hacker News – LLM14 天前
★ 2
GoRoute 开源：Go 编写的超轻量 LLM 网关，内存不足 15MB
开发者发布 GoRoute，一款用纯 Go 编写的单二进制 LLM 网关，空闲内存约 5MB，主打为编码智能体提供多供应商路由与协议转换。支持 OpenAI 与 Anthropic 协议互转、响应缓存与账号池故障切换。
Hacker News – LLM15 天前
★ 1
Medium 盘点五大开源 LLM 网关
一篇 Medium 文章盘点当前主流的五款开源 LLM 网关，比较其在多模型路由、密钥管理与可观测性方面的能力。属于综述类内容，非新发布。
Hacker News – LLM7 天前