Hacker News – LLM·6 天前★ 3
开发者用 Claude Code 写出 RTX 50 专用 LLM 服务器 Imp
原文标题：Show HN: Imp, an LLM Server for RTX 50 GPUs, Written by Claude Code
重要度 3/5 · AI 综合评估报道影响力与新鲜度，4–5 分为高价值资讯。
AI 智能摘要
开源项目 Imp 是仅面向英伟达 Blackwell（sm_120a）架构的 LLM 推理服务器，覆盖 RTX 5050 至 5090 及 RTX PRO 系列，一条 docker run 即可启动，兼容 OpenAI 与 Anthropic API。项目由 Claude Code 编写，在单张 RTX 5090 上对 Qwen3.8-27B 实测约 96.5 tokens/s，并支持专家权重放在主机内存中运行超大模型。
阅读原文 +0
AI 处理过程展开/收起
原始标题：Show HN: Imp, an LLM Server for RTX 50 GPUs, Written by Claude Code
AI 中文标题：开发者用 Claude Code 写出 RTX 50 专用 LLM 服务器 Imp
来源：Hacker News – LLM · 发布于 6 天前
分类：开源 · AI 重要度：★ 3（3）
标签：Imp / RTX 50 / 本地推理 / Claude Code / 开源
关键词：Imp LLM 服务器 / RTX 5090 推理 / 本地部署大模型 / Claude Code / 开源推理框架
AI 处理：2026/10/27 18:01:15 · 模型 deepseek-chat · 规则版本 2026-10-21.1
相关推荐
量子位·2 天前★ 4
DeepSeek 重磅开源 Agent 底座架构
AI 摘要DeepSeek 开源一套面向 Agent 的底座架构，据称 AI 已能自行定位 Bug 并提交 PR。该开源动作指向智能体工程化基础设施，可能影响 Agent 开发范式。
#开源
TechCrunch AI·3 天前★ 4
Mistral 开源万亿参数模型权重，主攻网络安全
AI 摘要Mistral 发布其万亿参数模型的权重，主打网络安全场景，称开放权重能让组织获得闭源模型无法提供的防御控制权。这是欧洲大模型厂商在开源路线上的又一次重要动作。
#开源
Hacker News·3 天前★ 4
Mistral 开源 Mistral Large 4（Le Chonk）权重
AI 摘要Mistral 宣布以开放权重形式发布 Mistral Large 4，代号 Le Chonk。该消息在 Hacker News 引发 410 分热度与近百条讨论，标志 Mistral 继续坚持开源路线。
#开源
量子位·7 天前★ 4
港科CMU联手岩山科技开源新模型，KV Cache砍99%吞吐提升6倍
AI 摘要香港科技大学、CMU与岩山科技联合开源新模型，通过将KV Cache压缩99%，实现单卡512路长推理并发、吞吐提升6倍。该成果显著降低长上下文推理的显存与成本压力。
#开源