#Apple Silicon

共 11 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 3

开源课程 tiny-llm 教你从零实现 Apple Silicon 上的 LLM 推理

tiny-llm 是一门面向系统工程师的实战课程,基于 MLX 数组与扩展运行时,从矩阵运算、内核到 KV 缓存、批处理与请求调度,完整实现 Qwen3-4B 的推理路径。课程不调用高层神经网络层,要求学员用 Python、C++ 或 Metal 自行实现算子,四周学习路径已在 GitHub 与在…

Hacker News – LLM3 天前
★ 3

Carmen 开源:用 Claude 生成并验证苹果芯片 Metal 内核

开发者发布 Carmen,一个让 Claude 编写 Apple Silicon GPU Metal 内核并自动测试验证的框架。它不只检查内核正确性,还实测真实模型在 Mac 上是否真正加速。结果显示在 MLX 已高度优化的矩阵乘与注意力上难有提升,但在小模型与投机解码场景仍有收益。

Hacker News – AI6 天前
★ 3

苹果 MLX 框架结合 RDMA 实现 Mac Studio 分布式大模型推理

苹果 MLX 开源数组框架利用 Apple Silicon 统一内存架构,让研究者在本地私有环境运行最新模型推理与微调。结合 RDMA 网络,多台 Mac Studio 可组成分布式集群进行大模型推理。此前苹果还介绍了 M5 架构及其 GPU 神经加速器的优势。

Apple Machine Learning Research18 天前
★ 3

Minions:聚合闲置 Apple Silicon 的分布式虚拟 GPU 云

论文提出 Minions,一个动态分布式虚拟 GPU 云,把 macOS 设备上闲置的 Apple Silicon GPU 聚合起来执行大规模机器学习推理。该方案针对集中式 GPU 基础设施成本高、弹性差、排队久的问题,让团队复用已有设备算力。

Apple Machine Learning Research21 天前
★ 3

Gemma 4在MLX上通过多token预测提速

在Ollama 0.31中,Gemma 4在Apple Silicon上通过多token预测(MTP)和MLX技术显著提速,在编码智能体场景下性能提升高达90%,基于Aider polyglot基准测试。

Ollama Blog126 天前
★ 3

Ollama 预览版支持 MLX 加速

Ollama 在 Apple Silicon 上预览了由 MLX 驱动的最快运行方式,MLX 是苹果的机器学习框架。这将显著提升 Mac 上运行模型的性能。

Ollama Blog217 天前
★ 2

Aurora Silicon 讨论 AI 辅助逆向工程苹果 Mac 的现状

Aurora Silicon 在 GitHub 讨论区发布关于 AI 辅助逆向工程 Apple Mac 硬件的现状总结,覆盖 A18 与 M1–M6 共 25 个产品、59 种主板配置。内容涉及 Aurora Linux 支持基线与各代芯片的逆向进展。

Hacker News – AI22 天前
★ 2

ImageGen:Mac本地运行Qwen-Image 2.1生成图像

开发者发布ImageGen,一款在Apple Silicon Mac上本地运行Qwen-Image 2.1的原生macOS应用,支持离线、私密、无API费用的图像生成。内置MCP服务器,可让Claude Code等AI代理直接调用生成图像,模型约需33GB内存。

Hacker News – AI31 天前
★ 2

Ollama在Apple Silicon上实现最高性能

Ollama的MLX引擎已更新,在Apple Silicon上实现了最高性能,模型输出质量更高、响应更快、内存占用更少。这提升了Ollama在苹果设备上的用户体验。

Ollama Blog144 天前
★ 1

VMPal:苹果芯片虚拟机

VMPal是一个面向Apple Silicon和AI智能体的虚拟机工具,在Hacker News上发布。该工具旨在为AI智能体提供隔离的运行环境,属于开发者工具类项目。

Hacker News – AI27 天前

这个主题的相关资产

相关标签

Apple Silicon 最新资讯与动态(11 篇) - 智讯 AI News