#推理调度

共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 2

arXiv 发布 MultiTurnRoute 平台与 Chain-of-Route 多轮 LLM 路由算法

论文指出多轮对话中每轮模型选择会相互影响,提出 MultiTurnRoute 平台用于构建与评测多轮 LLM 路由器,并给出 Chain-of-Route 算法,利用对话历史学习门控预测回答质量、结合可复用前缀估算成本。在 WildChat 与 LMSYS-Chat-1M 基准上,达到最强模型质量…

arXiv NLP5 小时前

相关标签

推理调度 最新资讯与动态(1 篇) - 智讯 AI News