arXiv cs.LG·13 天前★ 3

DS-Net 提出边云协同推理动态切分网络

原文标题:DS-Net: A Dynamic Split Network for Edge-Cloud Collaborative Inference

重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。

AI 智能摘要

现有边云协同推理需为不同切分点加载不同模型,切换慢且存储开销大。研究提出 DS-Net,在单一模型内支持多切分点动态切换,并设计分层补偿机制缓解特征分布偏移与信息损失。实验显示内存开销降低 74.6%,切换达毫秒级,在 10 Mbps 带宽下精度提升 1.2%、延迟降低 42.5%、吞吐提升 1.8 倍。

深读 · 结论先行AI 生成展开看要点与影响 ↓

DS-Net单模型内动态切换切分点,内存降74.6%、延迟降42.5%

  • •针对现有边云协同推理需为不同切分点加载不同模型、切换慢且边缘存储开销大的问题
  • •在单一模型内支持多切分点动态选择,降低存储、内存与切换开销,切换达毫秒级
  • •分层补偿机制:局部对齐校准各切分点解码特征分布,任务特定全局补偿恢复任务相关信息
  • •10 Mbps带宽下精度提升1.2%、延迟降低42.5%、吞吐提升1.8倍,内存开销降低74.6%

为什么重要:把切分点切换从「换模型」变成「模型内切换」,对带宽与边缘存储受限场景下的协同推理部署有直接工程价值。

以上深读由 AI 依据标题/摘要/正文节选生成,仅供参考;事实以原文为准。

阅读原文 +0
AI 处理过程展开/收起
原始标题:DS-Net: A Dynamic Split Network for Edge-Cloud Collaborative Inference
AI 中文标题:DS-Net 提出边云协同推理动态切分网络
来源:arXiv cs.LG · 发布于 13 天前
分类:算力芯片 · AI 重要度:★ 3(3)
标签:边云协同 / 模型切分 / 推理优化 / 边缘智能
关键词:边云协同推理 / 模型切分 / 边缘智能 / 推理加速 / 动态网络
AI 处理:2026/10/20 15:02:19 · 模型 deepseek-chat · 规则版本 2026-10-10.1
AI 生成以上内容由 AI 自动生成:中文标题、摘要、分类与重要度;同一事件的多家报道会自动归并展示。 内容仅供参考,可能存在偏差,请以原文为准, 不构成任何投资或专业建议。
版权归原作者与原发布平台所有;若涉及侵权或信息错误,请在举报与侵权投诉页反馈,我们会及时处理。
每天 09:30,3 条 AI 圈真正重要的变化,免费订阅 →

相关推荐

36氪·5 天前★ 5

OpenAI 据悉计划采购谷歌 TPU 芯片,降低对英伟达依赖

AI 摘要据报道,OpenAI 正计划采购谷歌自研的张量处理单元(TPU),以扩大算力规模并实现芯片供应多元化,双方尚未敲定最终条款。OpenAI 同时在推进与博通合作、代号 Jalapeno 的自研 AI 芯片。若交易落地,将直接冲击英伟达在 AI 加速芯片市场的主导地位,并重塑云厂商与大模型公司的算力供应格局。

#算力芯片
Hacker News – AI·50 天前★ 5

阿联酋因伊朗袭击调整 5GW AI 数据中心计划

AI 摘要据路透社报道,在遭受伊朗袭击后,阿联酋修订了其 5GW AI 数据中心建设计划。该事件凸显地缘政治冲突对中东地区大规模 AI 基础设施投资的直接冲击,可能影响全球算力布局与供应链。

#算力芯片
The Verge AI·67 天前★ 5

英伟达预计单季营收达1080亿美元

AI 摘要英伟达预测未来几个月内营收将达到1080亿美元,有望成为继亚马逊、苹果和Alphabet之后又一家季度营收超千亿美元的公司。其数据中心营收同比增长一倍以上,利润也大幅增长。

#算力芯片
36氪·1 天前★ 4

英伟达公布 OOI 共封装光学技术,原型样品已到位

AI 摘要英伟达在 SEMICON West 2026 上展示下一代共封装光学方案 OOI(Optics-on-Interposer),用大面积硅中介层取代有机封装基板,把光引擎直接集成到承载 GPU 的中介层上。该方案旨在为超大规模 AI 集群提供更高带宽互联,目前仍处研究阶段,无商业化时间表。

#算力芯片
DS-Net 提出边云协同推理动态切分网络 - 智讯 AI News