AI 事件专题★ 4

DeepSeek 开源 DeepInfer 推理框架

全面开源内部推理框架 DeepInfer

10-20 17:03 首发·2 家媒体·2 篇报道·持续 1 天·开源
当事方:DDeepSeek
相关方:NNvidia
事件综述

宣布在已开源、TileLang 编译工具及推理算子库的基础上,进一步将内部推理框架 DeepInfer 全面开源。基于 DeepInfer 已实现 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务。未来新模型的推理代码与优化也将持续在该框架更新,有助于社区复现其推理性能。

各方报道 2 篇

36氪·10-20 17:03★ 4
DeepSeek 全面开源内部推理框架 DeepInfer

DeepSeek 宣布在已开源、TileLang 编译工具及推理算子库的基础上,进一步将内部推理框架 DeepInfer 全面开源。基于 DeepInfer 已实现 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务。未来新模型的推理代码与优化也将持续在该框架更新,有助于社区复现其推理性能。

原文
Hacker News·10-20 17:08★ 4
DeepSeek 开源推理引擎 DeepInfer

DeepSeek 开源其生产级推理框架 DeepInfer,支持离线推理与大规模服务部署,采用 Apache 2.0 协议。该框架最初基于 构建,并借鉴 与 TensorRT-LLM,默认适配 DeepSeek-V4.1-Flash-1017 模型,同时支持与昇腾平台。

原文

关联

相关事件:
DeepSeek 其他动态(30 篇,与该事件无直接关联)展开 ▾
11-01 09:06DeepSeek 发布 Super-agent 双层 Agent 架构36氪10-31 21:49DeepSeek 重磅开源 Agent 底座架构量子位10-30 12:00arXiv 论文提出组件翻译与评判标注拒答的多语言安全评估arXiv NLP10-28 12:00RefactorProof 基准:代码重构后 LLM 生成证明稳定性测试arXiv cs.AI10-28 12:00研究提出候选形式化器衔接开放式任务与快速决策模型arXiv cs.AI10-28 12:00TrawMem:将智能体记忆重构为任务导向角色自适应工作区arXiv NLP10-26 12:00REACT:在思维链早期激活层干预,安全输出率升至 82%arXiv cs.LG10-26 12:00研究:GPT-6.1 Sol 与 Claude Opus 5.5 概率判断最符合全概率定律arXiv NLP10-26 12:00研究:六大前沿模型误判作者年龄,置信度高达 88% 却接近随机arXiv NLP10-23 16:46DeepSeek 千亿融资接近收官,结盟完美世界、中芯聚源押注具身智能InfoQ AI10-23 12:00研究:长思维链下投机解码接受率并不随位置衰减arXiv cs.AI10-23 12:00用行为反事实解释模型推理过程arXiv cs.LG10-22 21:11DeepSeek 据报融资 150 亿美元,美国限制令数日后完成TechCrunch AI10-22 11:04DeepSeek 据悉完成约 1000 亿元融资,宁德时代与腾讯参投36氪10-21 20:06DeepSeek 开源推理框架:单集群日吞吐 155 万亿 TokenInfoQ AI10-21 11:50DeepSeek 开源新工具,帮助降低 AI 运营成本Hacker News – AI10-20 21:07美国下令联邦机构移除DeepSeek AI产品TechCrunch AI10-20 15:25美国禁联邦机构使用DeepSeek,中国外交部回应快公司10-20 12:00研究揭示 Lean 定理证明中验证器反馈的「事后代价」arXiv cs.AI10-20 12:00LIFT:用部分推理轨迹实现免训练提示选择arXiv cs.AI10-20 12:00IF-MAP 用影响函数思路为多智能体系统排优先级arXiv cs.AI10-20 07:58美国禁止政府使用 DeepSeek AI,中美科技紧张持续Hacker News – AI10-20 00:16美国 DHS 下令禁止联邦民事机构使用 DeepSeekHacker News10-19 12:41DeepSeek V4.1 Flash 1017(Max)在 HN 引发讨论Hacker News10-19 12:00研究定位 MoE 预填充专家削减损伤:少数提示词 token 决定短答 F1 损失arXiv NLP10-19 08:108点1氪丨iPhone Duo溢价暴跌至3000元;多家A股科技龙头公司宣布计划回购;王自如称想与罗永浩和解36氪10-18 14:50DeepSeek 推出搜索与抓取服务,每千次成功请求0.75美元Hacker News10-18 13:53DeepSeek 发布 V4.1 Flash-1017,Token 消耗降超五成36氪10-17 20:21DeepSeek 发布 V4.1-Flash-1017 并开放搜索 API量子位10-17 17:27DeepSeek 发布 V4.1 Flash 新版本 V4.1-Flash-101736氪
DeepSeek 开源 DeepInfer 推理框架 最新进展 - 事件时间线 - 智讯 AI News