★ 3
CUDApp 在英伟达 DGX Spark 上不依赖 CUDA 跑本地 AI
开源项目 CUDApp 发布 CUDA++ 工具链，可在英伟达 DGX Spark（GB10，sm_121）上不经 CUDA 用户态软件直接生成并运行 GPU 机器码。项目称已在 Spark 上用纯 C 栈服务 Qwen3.6-35B-A3B 混合专家模型，运行时零 CUDA 库。目前属研究阶段，…
Hacker News – AI5 天前
#CUDA
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
SAGE：2 比特向量量化 LLM 逼近可用
论文提出 SAGE 权重向量量化方法，用能量分层分组（ESG）保护敏感权重通道，用自适应比特拆分（ABS）在固定比特预算下平衡方向码本与半径精度。在 2 比特设置下达到 SOTA，Qwen3-30B-A3B 保留 BF16 平均基准分的 95.3%，配合定制 CUDA 内核较 FP16 端到端加速…
arXiv cs.AI19 天前
★ 3
Codex 与 Claude Code 智能体优化 FRNN 搜索案例研究
论文以固定半径最近邻（FRNN）粒子追踪搜索为案例，让现成的 Codex 与 Claude Code 智能体在可执行目标（含正确性测试、性能剖析要求与验收标准）下自主优化。智能体移除 PyTorch 依赖并做假设驱动实验，产出独立 C++/CUDA 库，同步 NumPy 接口较原 GPU 常驻 P…
arXiv cs.AI34 天前
★ 3
CUDA 护城河已消失？
TechTechPotato 与 AI& 创始人 David Bennet 对谈，讨论英伟达 CUDA 生态的护城河是否已经消失。该视频在 Hacker News 获得 4 分，属于对 AI 芯片竞争格局的行业观察。
Hacker News – AI51 天前
★ 1
Reflex：GGUF 原生 Rust/CUDA 引擎实现 LLM 零规模路由
开发者发布 Reflex，一个基于 Rust 与 CUDA 的 GGUF 原生推理引擎，主打 scale-to-zero 的 LLM 路由能力。该工具在 Hacker News 的 Show HN 板块亮相，目前关注度较低，尚未有评论。
Hacker News – LLM20 天前
这个主题的相关资产
相关公司英伟达（Nvidia）1