★ 3
开源课程 tiny-llm 教你从零实现 Apple Silicon 上的 LLM 推理
tiny-llm 是一门面向系统工程师的实战课程，基于 MLX 数组与扩展运行时，从矩阵运算、内核到 KV 缓存、批处理与请求调度，完整实现 Qwen3-4B 的推理路径。课程不调用高层神经网络层，要求学员用 Python、C++ 或 Metal 自行实现算子，四周学习路径已在 GitHub 与在…
Hacker News – LLM2 天前
#MLX
共 6 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
Ollama 支持语音模型，首发 Gradium 的 Phonon
Ollama 新增语音模型支持，首个上线的是 Gradium 的小型文本转语音模型 Phonon，支持五种语言和数十种音色。在 Apple Silicon 上借助 MLX 加速，速度比实时快 100 倍以上，并兼容 OpenAI 的 /v1/audio/speech 接口。目前仅支持 macOS，…
Ollama Blog9 天前
★ 3
苹果 MLX 框架结合 RDMA 实现 Mac Studio 分布式大模型推理
苹果 MLX 开源数组框架利用 Apple Silicon 统一内存架构，让研究者在本地私有环境运行最新模型推理与微调。结合 RDMA 网络，多台 Mac Studio 可组成分布式集群进行大模型推理。此前苹果还介绍了 M5 架构及其 GPU 神经加速器的优势。
Apple Machine Learning Research18 天前
★ 3
Gemma 4在MLX上通过多token预测提速
在Ollama 0.31中，Gemma 4在Apple Silicon上通过多token预测（MTP）和MLX技术显著提速，在编码智能体场景下性能提升高达90%，基于Aider polyglot基准测试。
Ollama Blog126 天前
★ 3
Ollama 预览版支持 MLX 加速
Ollama 在 Apple Silicon 上预览了由 MLX 驱动的最快运行方式，MLX 是苹果的机器学习框架。这将显著提升 Mac 上运行模型的性能。
Ollama Blog217 天前
★ 2
Ollama在Apple Silicon上实现最高性能
Ollama的MLX引擎已更新，在Apple Silicon上实现了最高性能，模型输出质量更高、响应更快、内存占用更少。这提升了Ollama在苹果设备上的用户体验。
Ollama Blog144 天前