#边缘推理

共 4 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 2

微型世界模型在树莓派 Pico 2 W 上运行游戏

开发者用两个小型神经网络在树莓派 Pico 2 W 微控制器上同时生成并游玩游戏:世界模型根据当前帧与动作预测下一帧和奖励,演员网络据此选择动作。项目采用循环 Transformer 复用权重以压缩内存,并加入流式强化学习智能体让板子在自己的「梦境」中学习。

Hacker News3 天前
★ 2

ESP32S3集群运行1.58位BitNet模型

一个项目在7块ESP32S3微控制器组成的集群上分布式运行切片后的0.5B大语言模型,采用1.58位BitNet架构。主节点负责分词与嵌入,其余节点通过高速SPI菊花链通信执行注意力层与MLP,展示了极低比特量化模型在边缘硬件上的可行性。

Hacker News34 天前
★ 1

Kev:基于DiffusionGemma的兼容API

开发者展示Kev,一个运行在Cloudflare Workers AI之上、兼容Jev接口的API,底层使用DiffusionGemma模型。属于个人实验性项目,展示扩散模型在边缘推理上的可行性。

Hacker News – AI44 天前

这个主题的相关资产

相关标签

边缘推理 最新资讯与动态(4 篇) - 智讯 AI News