★ 3
通信高效的联邦LoRA微调自适应相位切换方法
论文测量了双向B-only联邦LoRA协议的每轮通信字节，提出自适应相位切换聚合器ReverseAdaptive，通过监控全局训练损失相对改进来定位通信-质量前沿的拐点。在TinyLlama-1.1B-Chat上实现40.5%往返通信节省，且阈值可跨模型规模迁移。
arXiv cs.LG48 天前
#通信效率
共 4 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
联邦临床中心的自适应贝叶斯伙伴选择
针对医疗联邦学习中的异质性与时序概念漂移，论文提出自适应贝叶斯伙伴选择（ABPS）框架，各中心基于 Beta-Bernoulli 后验与 UCB 准则选择合作方，并可在无互利伙伴时主动放弃通信。在 MIMIC-IV 的 230 个非独立同分布临床中心上，ABPS-X 以 FedAvg 0.09 倍…
arXiv cs.LG47 天前
★ 2
无线网络联邦低秩LLM自适应蒸馏
论文提出FLoKD框架，用于无线网络环境下联邦LoRA微调LLM，通过传输中间LoRA激活而非logits或全参数作为蒸馏信号。方法引入Transformer块重要性评分与数据集选择策略，在WikiText-103等数据集上将通信开销降低50-65%，同时快速收敛至有竞争力的困惑度。
arXiv cs.AI48 天前
★ 1
资源高效分布式递归高斯过程
论文提出 ADMM-RGP 与 PDMM-RGP 两种分布式递归高斯过程算法，用于多智能体场景下的多输出 GP 回归。作者分析了稳定性与收敛性，并给出加速收敛的参数选择策略以降低通信开销。在真实风电多输出数据集上验证，通信量显著低于现有方法而精度与全网一致性相当。
arXiv cs.LG39 天前
这个主题的相关资产
相关公司Meta AI1