★ 4
DeepSeek 全面开源内部推理框架 DeepInfer
DeepSeek 宣布在已开源大模型、TileLang 编译工具及推理算子库的基础上，进一步将内部推理框架 DeepInfer 全面开源。基于 DeepInfer 已实现 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务。未来新模型的推理代码与优化也将持续在该框架更新，有助于…
36氪12 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
DeepSeek 宣布在已开源大模型、TileLang 编译工具及推理算子库的基础上，进一步将内部推理框架 DeepInfer 全面开源。基于 DeepInfer 已实现 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务。未来新模型的推理代码与优化也将持续在该框架更新，有助于…