各方报道 1 篇
Hacker News·10-01 01:37★ 3
Magnitude:面向智能体的自优化推理引擎
原文 YC S25 创业公司 Magnitude 推出开源推理引擎,可在本地设备上编译并调优内核,使开源模型运行速度最高达 llama.cpp 的两倍。一键即可连接 Pi、Codex、Claude Code 等现有智能体,支持 Apple Silicon、NVIDIA、AMD 及纯 CPU,数据全程本地保留。
YC S25 创业公司 Magnitude 推出开源推理引擎,可在本地设备上编译并调优内核,使开源模型运行速度最高达 llama.cpp 的两倍。一键即可连接 Pi、Codex、Claude Code 等现有智能体,支持 Apple Silicon、NVIDIA、AMD 及纯 CPU,数据全程本地保留。