★ 3
DS-Net 提出边云协同推理动态切分网络
现有边云协同推理需为不同切分点加载不同模型,切换慢且存储开销大。研究提出 DS-Net,在单一模型内支持多切分点动态切换,并设计分层补偿机制缓解特征分布偏移与信息损失。实验显示内存开销降低 74.6%,切换达毫秒级,在 10 Mbps 带宽下精度提升 1.2%、延迟降低 42.5%、吞吐提升 1.…
arXiv cs.LG13 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
现有边云协同推理需为不同切分点加载不同模型,切换慢且存储开销大。研究提出 DS-Net,在单一模型内支持多切分点动态切换,并设计分层补偿机制缓解特征分布偏移与信息损失。实验显示内存开销降低 74.6%,切换达毫秒级,在 10 Mbps 带宽下精度提升 1.2%、延迟降低 42.5%、吞吐提升 1.…