★ 3
在十一台 Intel AI PC 上运行 975B 模型 Inkling
一篇 arXiv 论文展示如何将 975B 参数的大模型 Inkling 分布式运行在十一台 Intel AI PC 上。该工作探索了消费级 AI PC 集群承载超大模型推理的可行性,对边缘与本地部署有参考意义。
Hacker News – AI25 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
一篇 arXiv 论文展示如何将 975B 参数的大模型 Inkling 分布式运行在十一台 Intel AI PC 上。该工作探索了消费级 AI PC 集群承载超大模型推理的可行性,对边缘与本地部署有参考意义。