Meta 联合苹果发布可在 Mac 本地运行的开放权重模型 Muse Spark Open
Meta 与苹果合作推出开放权重 AI 模型 Muse Spark Open,可在 Apple Silicon 上本地运行。这是 Meta 在开放权重模型方向上的新动作,并借助苹果硬件实现端侧推理。
共 11 篇相关资讯,按重要度与时间排序,每 3 小时更新。
Meta 与苹果合作推出开放权重 AI 模型 Muse Spark Open,可在 Apple Silicon 上本地运行。这是 Meta 在开放权重模型方向上的新动作,并借助苹果硬件实现端侧推理。
tiny-llm 是一门面向系统工程师的实战课程,基于 MLX 数组与扩展运行时,从矩阵运算、内核到 KV 缓存、批处理与请求调度,完整实现 Qwen3-4B 的推理路径。课程不调用高层神经网络层,要求学员用 Python、C++ 或 Metal 自行实现算子,四周学习路径已在 GitHub 与在…
开发者发布 Carmen,一个让 Claude 编写 Apple Silicon GPU Metal 内核并自动测试验证的框架。它不只检查内核正确性,还实测真实模型在 Mac 上是否真正加速。结果显示在 MLX 已高度优化的矩阵乘与注意力上难有提升,但在小模型与投机解码场景仍有收益。
苹果 MLX 开源数组框架利用 Apple Silicon 统一内存架构,让研究者在本地私有环境运行最新模型推理与微调。结合 RDMA 网络,多台 Mac Studio 可组成分布式集群进行大模型推理。此前苹果还介绍了 M5 架构及其 GPU 神经加速器的优势。
论文提出 Minions,一个动态分布式虚拟 GPU 云,把 macOS 设备上闲置的 Apple Silicon GPU 聚合起来执行大规模机器学习推理。该方案针对集中式 GPU 基础设施成本高、弹性差、排队久的问题,让团队复用已有设备算力。
在Ollama 0.31中,Gemma 4在Apple Silicon上通过多token预测(MTP)和MLX技术显著提速,在编码智能体场景下性能提升高达90%,基于Aider polyglot基准测试。
Ollama 在 Apple Silicon 上预览了由 MLX 驱动的最快运行方式,MLX 是苹果的机器学习框架。这将显著提升 Mac 上运行模型的性能。
Aurora Silicon 在 GitHub 讨论区发布关于 AI 辅助逆向工程 Apple Mac 硬件的现状总结,覆盖 A18 与 M1–M6 共 25 个产品、59 种主板配置。内容涉及 Aurora Linux 支持基线与各代芯片的逆向进展。
开发者发布ImageGen,一款在Apple Silicon Mac上本地运行Qwen-Image 2.1的原生macOS应用,支持离线、私密、无API费用的图像生成。内置MCP服务器,可让Claude Code等AI代理直接调用生成图像,模型约需33GB内存。
Ollama的MLX引擎已更新,在Apple Silicon上实现了最高性能,模型输出质量更高、响应更快、内存占用更少。这提升了Ollama在苹果设备上的用户体验。
VMPal是一个面向Apple Silicon和AI智能体的虚拟机工具,在Hacker News上发布。该工具旨在为AI智能体提供隔离的运行环境,属于开发者工具类项目。