★ 3
两台英伟达 DGX 用 vLLM 部署 GLM-5.3 达 607.8 tok/s
技术分享展示如何用 vLLM 在两台英伟达 DGX 工作站上部署 GLM-5.3，实现 607.8 tokens/s 的推理吞吐。讨论聚焦大模型多机部署与推理优化实践。
Hacker News1 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
技术分享展示如何用 vLLM 在两台英伟达 DGX 工作站上部署 GLM-5.3，实现 607.8 tokens/s 的推理吞吐。讨论聚焦大模型多机部署与推理优化实践。