★ 3
KITE:面向任务的关键层 KV 通信多智能体协作
论文提出 KITE,一个免训练的任务导向关键层 KV 通信框架,用于提升潜在多智能体协作效率。它从接收端任务充分性出发,仅传输关键层的潜在工作记忆,在七个基准上通信量减少 28-36 倍,端到端推理最高提速 3 倍,准确率最高提升 23.3 个百分点。
arXiv cs.LG25 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 KITE,一个免训练的任务导向关键层 KV 通信框架,用于提升潜在多智能体协作效率。它从接收端任务充分性出发,仅传输关键层的潜在工作记忆,在七个基准上通信量减少 28-36 倍,端到端推理最高提速 3 倍,准确率最高提升 23.3 个百分点。
该研究考察独立训练的语言模型社会是否共享同一套潜在数据包语言,以及继承的接口状态对后续学习是帮助还是损害。对六个受限社会的30个有序配对进行因果互操作性审计发现,语义相似的接口并不构成统一语言,跨初始化方向全部对齐失败。全局训练的通信接口还构成严重的负迁移先验,仅重初始化读写模块即可将深度三准确率…