英伟达推出64GB版DGX Spark
英伟达发布64GB内存配置的DGX Spark,起售价4999美元,面向本地AI开发者。此举在内存价格高企的背景下为本地大模型运行提供新选择。
共 20 篇相关资讯,按重要度与时间排序,每 3 小时更新。
英伟达发布64GB内存配置的DGX Spark,起售价4999美元,面向本地AI开发者。此举在内存价格高企的背景下为本地大模型运行提供新选择。
Framework发文介绍其桌面产品配备192GB内存后对本地AI运行的影响,大内存使本地运行更大参数模型成为可能。这反映本地AI硬件正朝着高内存方向演进。
Perplexity 的 Portable Computer 现已支持 Windows,由 NVIDIA RTX GPU 加速。该产品是 Perplexity Computer 代理的本地版本,可规划并执行多步骤任务,利用本地模型分析数据,同时将敏感信息保留在设备上。随着本地模型能力提升,端侧AI…
OpenJarvis v1.0 发布,这是一个开源框架,用于构建在自有硬件上运行的个人 AI 智能体,并内置 Ollama 支持。该框架强调本地优先,保护用户隐私。
SuperDuck.AI 发布在 Mac 本地运行模型的个人 AI 应用,对话、文件与笔记均不出本机,无需账号或云端。iPhone/iPad 应用通过端到端加密链路连接 Mac,底层集成 antirez 的 ds4 等推理引擎,本地模型下载约 80 GB,也支持 Apple Intelligenc…
Sunny 是一款开源桌面 AI 助手,专为老年人和不熟悉电脑的用户设计,通过观察屏幕并代为操作应用完成日常任务。它强调安全优先,任何破坏性操作都需用户批准,数据默认本地处理,可完全离线运行内置视觉模型与 Ollama/Qwen 本地模型。
The Verge 记者分享首次在本地运行 AI 智能体的体验,在 M5 Ultra Mac Studio 上安装开源 Hermes Agent,并选用 1250 亿参数的 Qwen 3.8 Flash Next 模型。文章探讨本地 AI 在隐私上的优势,以及模型选择过多、硬件成本高昂带来的困扰,…
开发者在 Hacker News 展示开源项目 SCM,可在 macOS 上对任意文件夹内的照片和视频逐帧进行 AI 语义搜索。工具完全本地运行,无需账号或云端上传,结合视觉模型嵌入、OCR 与 Whisper 转录实现多模态检索,并可选接入本地 llama.cpp 问答。
开发者Rob推出Potluck,可将用户拥有的多台笔记本和游戏电脑组网,共同运行更大的本地模型。目标是构建用户自有机器网络,让闲置算力互相借用,降低运行大模型的硬件门槛。
一篇 arXiv 论文提出「每瓦智能」(Intelligence per Watt)指标,用于衡量本地部署 AI 的能效表现。该研究试图为边缘与本地推理场景建立更统一的效率评估框架,对硬件选型与模型部署有参考价值。
llm-hub.app推出一款本地AI应用,支持通过自然语言「氛围编程」生成网站,并能生成图像、视频和音乐。该产品主打本地化运行,减少对云端服务的依赖。
SideOS 在 Show HN 发布本地运行的 AI 工具,支持语音听写、会议记录与后台任务处理。产品主打本地化部署,强调隐私与离线可用。
开源 Rust 图形编辑器 PhotoCraft 的配套项目 Companion 发布,通过本地控制套接字与主程序通信,提供 DirectML 加速的本地神经网络工具和 Photoshop 风格浮动工具栏。项目采用 Wasm 插件之外的零核心架构,支持 .pcpl 包生态,可在 Windows、L…
开发者推出TrueScribe,一款面向Linux的本地AI转录工具,类似MacWhisper的替代方案。该应用采用C#与Avalonia.Net前端、C++底层模型绑定,支持离线转录、翻译和说话人识别,同时也兼容Windows。
Searchlify 是一款利用本地 AI 在 Mac 上进行私密搜索的工具,所有处理均在设备端完成。该产品主打隐私保护与本地化搜索体验。
PocketWebTools 推出全新站点,定位为本地 AI 工具的家园。该帖在 Hacker News 热度极低,属于小众产品发布。
Flashcat 是一款运行在 Mac 终端的本地 AI 助手,强调在执行操作前先征求用户确认。该工具主打本地化与安全性,属于个人开发者的小众项目。
开发者发布本地运行的 AI 宠物 Varkos,支持对话、互动并玩小游戏。项目主打本地化与趣味性,属于个人开发者的小型 AI 应用尝试。