★ 2
VindexLLM 开源：Delphi 12 编写的 Windows Vulkan GPU GGUF 推理引擎
开发者开源 VindexLLM，一个完全用 Delphi 12 编写、基于 Vulkan 计算着色器的 Windows GPU 大模型推理引擎，可直接加载标准 GGUF 模型并完成完整 Transformer 前向计算。它不依赖 Python、CUDA 工具包或外部运行时，仅需系统自带的 vulk…
Hacker News – LLM7 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
开发者开源 VindexLLM，一个完全用 Delphi 12 编写、基于 Vulkan 计算着色器的 Windows GPU 大模型推理引擎，可直接加载标准 GGUF 模型并完成完整 Transformer 前向计算。它不依赖 Python、CUDA 工具包或外部运行时，仅需系统自带的 vulk…