arXiv cs.AI·5 小时前★ 3

PISA:面向提示自适应的成本感知 LLM 路由与集成

原文标题:Ensemble Routing for Prompt-Adaptive Cost-Aware LLM Inference

重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。

AI 智能摘要

研究者提出 PISA 单模型路由方法及其扩展 PISA-E 集成路由,通过软聚类归属与模型能力预测器估计各模型表现,并在推理时按成本—质量偏好动态选择集成组成与规模。在四个路由基准上,PISA-E 在质量优先时分别领先最强对手 2.09 与 2.87 个百分点,低成本档位下降低约 36% 与 25%。

深读 · 结论先行AI 生成展开看要点与影响 ↓

PISA-E 集成路由在质量优先时领先最强对手 2.09 与 2.87 个百分点,低成本档降约 36% 与 25%。

  • •PISA 为单模型路由,PISA-E 扩展为集成路由,核心是软聚类归属加模型能力预测器。
  • •PISA-E 在显式成本—质量偏好下联合选择集成组成与规模,推理时可调且无需重训。
  • •四个路由基准的 ID 与 条件下,PISA 在单模型路由中宏观平均成本—性能超体积最高。
  • •低成本档位相对最强集成对手分别降低约 36% 与 25% 推理成本。

为什么重要:对需要在质量与成本间按请求动态权衡的 Web 服务,路由从「选一个模型」升级为「按需组队」。

以上深读由 AI 依据标题/摘要/正文节选生成,仅供参考;事实以原文为准。

阅读原文 +0
AI 处理过程展开/收起
原始标题:Ensemble Routing for Prompt-Adaptive Cost-Aware LLM Inference
AI 中文标题:PISA:面向提示自适应的成本感知 LLM 路由与集成
来源:arXiv cs.AI · 发布于 5 小时前
分类:大模型 · AI 重要度:★ 3(3)
标签:模型路由 / 推理成本 / 模型集成 / LLM 服务
关键词:LLM 路由 / 推理成本优化 / 模型集成 / 大模型服务 / 成本感知推理
AI 处理:2026/11/10 18:03:22 · 模型 deepseek-chat · 规则版本 2026-10-21.1
AI 生成以上内容由 AI 自动生成:中文标题、摘要、分类与重要度;同一事件的多家报道会自动归并展示。 内容仅供参考,可能存在偏差,请以原文为准, 不构成任何投资或专业建议。
版权归原作者与原发布平台所有;若涉及侵权或信息错误,请在举报与侵权投诉页反馈,我们会及时处理。
每天 09:30,3 条 AI 圈真正重要的变化,免费订阅 →
内容有误或摘要不准?告诉我们
PISA:面向提示自适应的成本感知 LLM 路由与集成 - 智讯 AI News