★ 3
异构多智能体LLM的免预填充KV缓存迁移
论文针对异构多智能体LLM系统中文本通信导致接收方重复预填充共享上下文的问题，提出HeteroFold免预填充跨模型族KV缓存迁移方法。该方法对齐模型结构、将发送方缓存映射到接收方空间并校准以保持接收方行为，同时冻结双方模型。在32K上下文下Llama-3.1-8B到Ministral-3-14B…
arXiv cs.AI34 天前
#异构模型
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
模型切片协作学习与推理框架
研究者提出协作学习框架，通过模型切片将大模型替换为参数预算相当的异构小模型，并用金字塔监督结合协议蒸馏与步骤级监督优化协作推理。在多跳问答、数学推理、代码生成与开放式约束生成四类任务上，性能媲美或超过原大模型与多智能体基线，同时推理效率更高。
arXiv cs.AI21 天前
★ 2
GLIDE：异构LLM智能体的分层内在分布评估
论文针对LLM智能体缺乏轻量可靠步级评估的问题，提出GLIDE方法，从逐层残差一致性推导内在步级证据，衡量局部残差更新是否一致支持候选步引发的全局残差变化。该方法将证据对照生成智能体近期分数分布校准，转化为悲观奖励，为MCTS分支选择提供跨智能体价值信号。实验显示在多跳推理、序列决策与符号逻辑任务…
arXiv cs.AI34 天前
这个主题的相关资产
相关公司Meta AI1