技术
LLM Routing（大模型路由）
LLM Routing 是一种动态选择不同大语言模型处理请求的技术，解决单一模型成本高、效果差的问题，典型应用如OpenRouter，根据查询复杂度路由到合适模型，平衡性能与开销。
详细解释
不同LLM在能力、成本和延迟上差异大。LLM Routing 通过分类器或规则，将请求分发给最合适的模型，如简单查询用小模型，复杂任务用大模型。它提升效率，降低成本。技术包括基于置信度、元学习或强化学习的路由策略。代表工作有RouteLLM、OpenRouter平台，以及学术研究如“Routing to the Expert”。
别名与相关写法
llm routing
相关术语
Token共现 1 篇
相关资讯
研究提出带在线偏好学习的个性化 LLM 路由方法2026/10/19
TokenRouter：面向 token 级 LLM 路由的推理引擎2026/10/9
FlexRouter：面向灵活 LLM 路由的互补模型集学习2026/10/1
Reflex：GGUF 原生 Rust/CUDA 引擎实现 LLM 零规模路由2026/10/13