#边缘计算

共 36 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 4

论文提出用无线电混频器运行卷积神经网络

论文提出射频卷积神经网络(RF-CNN),利用无线电台中已有的频率混频器在频域原生执行卷积,从而复用现有通信硬件进行 CNN 推理。实验表明其可运行多达 2640 万参数、九层的深度 CNN,覆盖无线信号与图像分类及可控图像生成,性能接近全精度。由于权重通过空中传输且模拟硬件与通信共享,每次乘加能…

arXiv cs.LG45 天前
★ 3

杨元庆预测:未来80% Token将在终端和边缘生成

联想集团董事长兼CEO杨元庆在内部培训中分享对AI产业趋势的判断,认为AI计算架构、生态格局和终端形态都将发生深刻变化。他预测未来80%的Token将在终端和边缘侧生成,AI推理任务将从云端集中式计算向端边云协同演进,为个人计算设备和边缘基础设施带来新增长空间。

36氪9 天前
★ 3

AO-DA 架构发布:边缘 LLM 智能体抗上下文污染

论文提出解耦架构 AO-DA,把逻辑推理与人格表达拆成同一 INT4 基座模型上的两条推理路径,用可热插拔 LoRA 适配器实现。在 Apple M2 上对 Llama-3.1-8B 与 Gemma-3-4B 的测试显示,解耦逻辑路径对污染结构性不变,输出逐字节一致,而混合单次推理随污染单调退化。

arXiv NLP25 天前
★ 3

Liquid AI 发布边缘端多模态决策模型 D1

Liquid AI 发布面向边缘设备的多模态决策模型 D1,主打帕累托前沿性能,即在精度与推理成本之间取得更优平衡。该模型面向端侧部署场景,可在本地完成多模态决策任务,减少对云端算力的依赖。

Hacker News – AI25 天前
★ 3

Cloudflare AI Search 正式可用

Cloudflare 宣布其 AI Search 产品正式全面可用(GA)。该服务允许开发者在 Cloudflare 平台上构建基于 AI 的搜索功能,集成其边缘网络与向量检索能力。这标志着 Cloudflare 在 AI 基础设施领域的进一步布局。

Hacker News – AI31 天前
★ 3

研究:神经符号路由让边缘设备可靠推理

论文提出神经符号路由器,将查询分类并分派给最便宜的正确答案求解器,结构化任务交给确定性引擎,小语言模型仅处理开放式应用题。路由逻辑通过L*语法推断算法学习确定性有限自动机,以SLM为成员预言机。在树莓派4B上,学习路由达到100%路由准确率与98.3%总体准确率,远高于Program-of-Tho…

arXiv cs.AI33 天前
★ 3

HybridInfer:热感知强化学习分层 LLM 推理路由

论文指出旗舰骁龙设备上持续端侧生成会导致 GPU 推理运行时崩溃或静默卡死,问题源于 OpenCL 内核编译与长提示预填充。作者提出 HybridInfer,用手机热余量与查询复杂度作为状态,通过离线 Q-learning 策略在端侧 Llama 3.2 3B、边缘 Llama 3.1 8B 与云…

arXiv cs.LG35 天前
★ 3

PTC-Decoder:面向离线边缘设备的智能小模型

论文提出 PTC-Decoder,一种免训练、即插即用的解码框架,通过 Plan-to-Act 范式强制首步调用规划工具,并用确定性有限自动机对工具名施加 token 级硬约束。在 200 个真实遥感卫星任务、7 个 SLM 上取得显著平均分提升,但最终答案准确率仍是待解难题。

arXiv cs.AI35 天前
★ 3

研究:智能体AI在边缘云间的能耗与内存特征分析

论文提出 agentic-eCAL 指标,将 AI 生命周期能耗成本推广到有向多智能体工作流,结合两速率单次调用能耗模型与七层 OSI 数据传输。基于 A100/H100 数百种配置、16 个开源模型与 8 种编排拓扑验证,发现智能体间文本传输仅占工作流能耗的 0.25%。结论是边缘-云智能体部署…

arXiv cs.AI46 天前
★ 3

边缘-云LLM函数调用的碳感知路由

论文提出碳感知路由框架,将函数调用查询在三层边缘-云架构上分发,结合边缘与云端异构硬件上的 LLM。核心是轻量 k-NN 预测器在统一语义-词汇嵌入空间中估计各层准确率、延迟与功耗,再结合实时电网碳强度将查询路由至最低排放且能成功执行的层级。在主流函数调用基准上,该框架在保持云端级准确率的同时平均…

arXiv cs.AI48 天前
★ 3

绿联发布AIoT生态与本地算力产品

绿联科技在厦门举办全球发布会,发布充电安全生态与AIoT生态产品,切入AI NAS、家庭智能体与本地算力设备。其MasterAgent搭载NVIDIA Jetson Thor T5000,算力达2070 TFLOPs,可本地运行122B大模型,试图成为家庭本地算力调度中心。

36氪48 天前
★ 3

扩散语言模型赋能移动边缘智能体AI综述

综述探讨扩散语言模型(DLM)在移动边缘智能体AI中的应用,分析其非自回归特性带来的质量-延迟弹性优势。文章覆盖资源高效架构、边缘部署、IoT应用及开放挑战,为边缘智能发展提供系统视角。

arXiv cs.AI56 天前
★ 3

基于SAREF的分布式AI工作流本体

提出符合SAREF的本体,用于表示边缘-雾-云连续体中的分布式AI工作流。扩展SAREF4SYST以建模AI流水线、可执行作业和资源,实验显示部署成功率90-100%,决策时间低于80毫秒。

arXiv cs.AI66 天前
★ 2

Sovereign Inference Mesh 推出安卓手机端AI推理与边缘计算方案

Zenodo 收录的 Sovereign Inference Mesh 项目提出在 Android 手机上原生运行 AI 推理与边缘计算的方案,强调设备端自主推理能力。该研究探索将模型推理下沉到移动终端,减少对云端依赖,但尚属早期学术性工作。

Hacker News – AI1 天前
★ 2

2 美元微控制器上实现 SIMD 加速计算机视觉

技术分享展示如何在仅 2 美元的微控制器上利用 SIMD 指令加速计算机视觉任务,把 CV 能力下推到极低成本硬件。该内容在 Hacker News 热度较低,属于嵌入式 AI 的趣味实践。

Hacker News7 天前
★ 2

研究:知识蒸馏在九类边缘平台预测性维护中最优

论文对旋转机械预测性维护用高性能CNN比较四种模型压缩技术,并在从受限边缘设备到高性能处理器的九种异构平台上评测。结果显示知识蒸馏效果最佳:全设备提速超90%,保持91.22%平衡F-score,模型体积缩减98.9%。

arXiv cs.LG10 天前
★ 2

GANet:0.001M 参数轻量网络识别 38 种植物病害

论文提出轻量分组等变注意力网络GANet,含分组注意力与分组特征融合模块,仅0.001M参数即在PlantVillage数据集达99.99%准确率。模型针对树莓派4b与Jetson Nano优化,分别达5 FPS与11 FPS,可用于低功耗设备实时病害监测。

arXiv cs.LG10 天前
★ 2

论文提出极低状态量化 Transformer,用于电力负荷预测

研究在 3/5/7/16 状态权重量化下考察 Transformer 电力负荷预测,直接训练后量化使 NRMSE 上升 6.25 与 7.04 个百分点,量化感知微调可挽回约 90.2% 与 94.5% 的损失。作者提出累积更新阈值化,将已提交影子权重更新减少约 99.7%、离散状态切换减少 77…

arXiv cs.LG11 天前
★ 2

SECURE-AI 提出多信号不确定性量化提升咳嗽检测可信度

针对咳嗽声学检测模型在真实部署中静默失效的问题,研究提出 SECURE-AI 框架,包裹冻结的 MobileNetV3 分类器,融合蒙特卡洛 Dropout、温度缩放与嵌入空间马氏距离。在 Coswara 数据集上,马氏距离信号最强,可在保留 90% 真阳性的同时去除约三分之二误报。整套流程可运行…

arXiv cs.LG13 天前
★ 2

arXiv 提出 TRACE 码本编码降低分布式 Transformer 推理通信

TRACE 在每层 Transformer 注意力后残差处放置向量量化器,预计算码本索引的键值表示,使接收端通过查表直接恢复 K/V,实现通信与计算重叠。在 ViT-Base 与 ViViT-B 上精度最高提升 1.89%、端到端推理加速 1.27 倍,通信开销相比未压缩序列并行推理最多降低 22…

arXiv cs.LG14 天前
★ 2

MemKD:面向紧凑循环网络的内存保持蒸馏

论文针对循环神经网络在资源受限设备部署的挑战,提出内存差异知识蒸馏框架MemKD。该方法利用专门损失函数捕捉教师与学生模型在时间序列子序列上的内存保持差异,使学生模型有效模仿教师行为。实验表明MemKD显著优于现有蒸馏方法,在多种压缩级别下匹配教师性能,大幅减少参数量与内存占用而不明显损失精度。

arXiv cs.LG26 天前
★ 2

开源工具决定 AI 负载该跑在本地、边缘还是云端

开发者发布了一个决策引擎,帮助判断给定 AI 负载应部署在设备、边缘还是云端,并推荐合适模型。项目用 llama3.2:1b 与 AWS Bedrock 做了基准测试,发现该任务上云端反而比本地更快,真正的权衡在于隐私与离线能力。目前边缘数据为模拟结果,尚未在树莓派等真实受限硬件上验证。

Hacker News – AI30 天前
★ 2

铁路系统异常检测深度学习综述

这篇 arXiv 综述系统梳理了深度学习在铁路异常检测中的应用,提出统一分类体系,涵盖异常位置、数据表征、传感模态与时间特性。文章将卷积、循环、注意力、自编码器、GAN、Transformer 等方法归入分类式、预测式、重构式与混合式四类范式,并讨论边缘-云部署、算力约束与硬件感知优化。最后给出面…

arXiv cs.LG31 天前
★ 2

缓存感知Conv3D降级加速边缘世界模型解码

一篇 arXiv 论文提出缓存感知的 lowering 方法,将因果 Conv3D 调用表达为批量空间 Conv2D 操作,同时保留预训练权重、时序缓存语义与输出布局。在 64GB 的 NVIDIA Jetson AGX Orin 上运行 Cosmos3-Edge 图生视频流水线,VAE 解码提速…

arXiv cs.LG34 天前
★ 2

稀缺标签下的振动诊断振荡状态空间模型

研究者提出 DualRes,一种紧凑的振荡状态空间模型,融合两种互补的振动频谱视角,用于边缘设备上的机器故障诊断。编码器仅 3.9 万参数,在齿轮箱基准的七个标签预算中的六个达到最优,每类约 6 秒标注数据即比次优方法提升 16.1 个百分点 macro-F1。相比选择性状态空间基线,推理提速 1…

arXiv cs.LG39 天前
★ 2

TinyUDE:微控制器上免求解器的通用微分方程训练

论文提出 Lie-Taylor 喷流匹配方法,无需通过数值 ODE 求解器反向传播即可训练通用微分方程,大幅降低内存占用。在 ESP32 微控制器上实现实时在线训练,静态内存仅 61.3 kB,场误差 0.0020,并准确恢复阻尼系数。

arXiv cs.LG39 天前
★ 2

Npunlock:为英特尔NPU运行自定义C内核

开发者发布Npunlock工具,允许在英特尔NPU上运行自定义C内核,为边缘AI推理提供更底层的编程能力。该工具在Hacker News上获得少量关注,可能吸引对NPU编程感兴趣的开发者。

Hacker News40 天前
★ 2

Jarvis:面向自动驾驶赛车的开源离线语音助手

研究者开发了 Jarvis,一个可边缘部署的离线语音助手框架,用于自动驾驶赛车的高层行为指令。其核心是基于 Mistral 7B 领域微调得到的文本到指令分类器,实现低延迟本地推理。实验显示意图识别准确率达 97.63%,平均处理延迟 1.39 秒,优于更大的在线托管模型,并已开源。

arXiv cs.LG42 天前
★ 2

无需训练:智能体启发式学习工作室实现可执行人类活动识别

论文提出Agentic Heuristic Learning(AHL)Studio,探索受人类认知学习启发的互补路径:通过记忆样例、形成规则、修复错误来学习活动,而非梯度反向传播。学习期智能体推理传感器协议、提出可执行启发式策略、记录修复轨迹,并导出无LLM的边缘部署策略。在已评测的11个人类活动…

arXiv cs.LG47 天前

这个主题的相关资产

相关标签

边缘计算 最新资讯与动态(36 篇) - 智讯 AI News