★ 3
DeepSeek 推理吞吐提升近7倍
通过内核补齐与通信重构,DeepSeek 推理吞吐量提升近7倍,PCIe 显卡性能被重新评估。报道称1.5台6000D即可跑赢1台B300,显示优化后中低端硬件在推理场景的性价比优势。
量子位38 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
通过内核补齐与通信重构,DeepSeek 推理吞吐量提升近7倍,PCIe 显卡性能被重新评估。报道称1.5台6000D即可跑赢1台B300,显示优化后中低端硬件在推理场景的性价比优势。
一篇技术博客介绍 Quail,一个面向 AI 场景的超高吞吐量 SQL 引擎。该引擎旨在提升 AI 数据查询效率,服务大规模数据处理需求。