★ 4
面壁开源MiniCPM-V 4.7，iPhone断网可跑35B多模态仅占3G内存
面壁智能开源MiniCPM-V 4.7多模态模型，可在iPhone断网环境下本地运行，模型规模达35B但仅占3G内存。该模型展示了端侧多模态大模型在移动设备上的可行性。
量子位19 天前
#端侧模型
共 10 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
Liquid AI 发布 LFM3 模型
Liquid AI 推出 LFM3，为其 Liquid Foundation Models 系列的新一代版本。该系列以非 Transformer 的高效架构为特色，主打端侧与低算力部署场景。具体参数规模、基准成绩与开源许可尚待官方细节确认。
Producthunt AI5 天前
★ 3
macOS 27 内置离线 LLM，可在终端通过 fm 命令调用
macOS 27 似乎将 Apple Foundation Models 直接开放到终端，用户可用 fm respond 提问、管道输入文本、通过 --schema 请求结构化 JSON，并用 fm serve 暴露本地端点。据称 M1 8GB 内存设备即可本地推理，上下文窗口 4K，较大请求可走…
Hacker News – LLM11 天前
★ 3
LFM2.5-24B-A2B 发布：面向端侧智能体快速推理
Liquid AI 推出 LFM2.5-24B-A2B 模型，主打端侧智能体场景下的快速推理能力。该模型采用稀疏激活设计，在本地设备上兼顾性能与效率，适用于低延迟的智能体应用。
Hacker News18 天前
★ 3
研究定位 LLaMA-2-7B-Chat 安全关键参数，0.19% 权重即可攻破
论文研究端侧小语言模型的安全脆弱性，考察 LLaMA-2-7B-Chat 的安全敏感行为是否集中于稀疏参数子集。通过低秩安全子空间分析与参数级安全-效用重要性过滤两种方法，发现网络内安全敏感性高度不均，MLP 的 down_proj 层最为关键。仅修改 down_proj 中 0.19% 的权重即…
arXiv cs.AI25 天前
★ 3
Liquid AI 发布边缘端多模态决策模型 D1
Liquid AI 发布面向边缘设备的多模态决策模型 D1，主打帕累托前沿性能，即在精度与推理成本之间取得更优平衡。该模型面向端侧部署场景，可在本地完成多模态决策任务，减少对云端算力的依赖。
Hacker News – AI25 天前
★ 3
腾讯 Marvis 升级为 PC 端 AI 管家
腾讯推出新版 Marvis，将个人 Agent 定位从「操作系统层级 AI 助手」升级为「AI 管家」，重点强化电脑系统与硬件管理能力，可检查电池健康、调整开机启动项。截至本月其日活较 5 月上线时增长近四倍。Marvis 采用端侧模型建立本地文件索引、按需调用云端模型的独特路径，并计划与英特尔、…
36氪33 天前
★ 3
FunctionGemma扩展端侧移动函数调用
论文将FunctionGemma 270M-it扩展到实用安卓工作流，发布约9500条对话的合成数据集MOBILEACTIONSEXTENDED，覆盖十五类设备控制场景。经监督微调后，端到端准确率从基座29.3%、谷歌Mobile-Actions变体17.2%提升至76.5%。联合训练模型在扩展集…
arXiv cs.LG40 天前
★ 2
模型即库：非洲低资源语言的离线社区AI
论文提出「Model as a Library（MaaL）」架构，将小型社区录入的语音模型打包为可版本化的端侧依赖，实现离线结构化数据采集。其词表由说话者在部署现场用少量录音直接录入，避免网络爬取语料对非洲语言方言差异的系统性失真。文章属系统设计立场论文，给出机制与可行性分析。
arXiv cs.AI32 天前
★ 2
端侧语言模型实现隐私保护压力预测
研究评估端侧语言模型（ODLM）在多模态压力预测中的可行性，采用零样本提示并测量延迟与吞吐。结果显示客观传感器特征平均略优于主观自报数据，且 2B 以下轻量模型可实现低延迟与可预测资源占用。研究揭示了 ODLM 在移动心理健康应用中的潜力与实用约束。
arXiv cs.LG49 天前