★ 2
开发者发布 Sanctuary:在 Apple Silicon Metal 上离线运行 LLM 的 iOS 应用
开发者在 Hacker News 的 Show HN 板块发布 Sanctuary,一款基于 Apple Silicon Metal 框架、可在 iOS 设备上完全离线运行大语言模型的应用,目前通过 TestFlight 分发测试。该项目体现端侧本地推理在移动设备上的持续探索。
Hacker News – LLM4 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
开发者在 Hacker News 的 Show HN 板块发布 Sanctuary,一款基于 Apple Silicon Metal 框架、可在 iOS 设备上完全离线运行大语言模型的应用,目前通过 TestFlight 分发测试。该项目体现端侧本地推理在移动设备上的持续探索。