★ 3
英伟达开源个人AI路由器PAIR
英伟达在 GitHub 发布 Personal AI Router(PAIR),一款面向局域网内多台兼容电脑的本地推理路由器。它可发现节点、管理推理引擎,并提供 Ollama 与 OpenAI 兼容的代理端点,适合多智能体等并发本地负载。PAIR 不聚合显存或拆分模型,仅将独立请求路由到合适节点。
Hacker News – AI53 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
英伟达在 GitHub 发布 Personal AI Router(PAIR),一款面向局域网内多台兼容电脑的本地推理路由器。它可发现节点、管理推理引擎,并提供 Ollama 与 OpenAI 兼容的代理端点,适合多智能体等并发本地负载。PAIR 不聚合显存或拆分模型,仅将独立请求路由到合适节点。