★ 3Redis作者推出本地运行LLM的ds4Redis创始人发布ds4,一款可在本地运行大语言模型的工具,引发开发者社区关注。该项目主打本地化部署,降低对云端算力的依赖。Hacker News30 天前
★ 1FastAPI-stream-lease 发布:Redis 管理 LLM 流式会话开源项目 fastapi-stream-lease 提供基于 Redis 的租约管理器,用于限制 FastAPI 中并发的 SSE、LLM token 流与 WebSocket 会话数量。支持按用户与全局限额,超限连接在流开始前返回 429。Hacker News – LLM20 天前