★ 2
Jinfer：面向 JVM 的 AI 推理引擎
开发者发布 Jinfer，一个纯 JVM 的 AI 推理引擎，支持聊天、视觉、音频、嵌入、重排与 TTS，无需 Python 运行时、ONNX 或 Docker。底层包含纯 Java 分词器、GGUF/Safetensors 读写、量化矩阵乘内核与多后端张量 API。目前为仅 CPU 的早期版本，…
Hacker News – AI48 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
开发者发布 Jinfer，一个纯 JVM 的 AI 推理引擎，支持聊天、视觉、音频、嵌入、重排与 TTS，无需 Python 运行时、ONNX 或 Docker。底层包含纯 Java 分词器、GGUF/Safetensors 读写、量化矩阵乘内核与多后端张量 API。目前为仅 CPU 的早期版本，…