★ 3
Speculative Macro Commit 加速工具调用型 LLM 智能体
本文提出推测宏提交(SMC),一种双智能体系统运行时机制,由快速推测模型预执行动作链,当主模型匹配时提交结果。在多个基准上,SMC在保持准确率的同时显著降低延迟,提供实用的多步推测执行方法。
arXiv cs.AI59 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
本文提出推测宏提交(SMC),一种双智能体系统运行时机制,由快速推测模型预执行动作链,当主模型匹配时提交结果。在多个基准上,SMC在保持准确率的同时显著降低延迟,提供实用的多步推测执行方法。