英伟达cuDNN图API:融合、自动调优与计划复用
本文深入讲解英伟达cuDNN Frontend Graph API的实战用法,涵盖自定义算子融合、自动调优引擎配置、FP8风格尾声、缩放点积注意力、动态形状以及CUDA图捕获。教程展示了如何在框架抽象层之下直接优化深度学习计算,并用PyTorch验证结果。对希望压榨GPU性能的工程师具有较高参考价…
共 19 篇相关资讯,按重要度与时间排序,每 3 小时更新。
本文深入讲解英伟达cuDNN Frontend Graph API的实战用法,涵盖自定义算子融合、自动调优引擎配置、FP8风格尾声、缩放点积注意力、动态形状以及CUDA图捕获。教程展示了如何在框架抽象层之下直接优化深度学习计算,并用PyTorch验证结果。对希望压榨GPU性能的工程师具有较高参考价…
论文提出 CUTTIE 方法,将网络各层单元聚类成树,用条件独立性检验自顶向下定位携带预测目标信息的单元簇,并控制族错误率。在预测细胞类型特异染色质可及性的卷积模型上,识别出的单元簇所编码概念对应已知调控基序。该方法为基因组深度学习模型的可解释性提供统计保证。
研究基于 LIDC-IDRI 队列的 2654 个肺结节,比较 2D、2.5D、3D 残差网络在恶性风险分类上的表现。增强后的 2.5D 模型取得最高 Macro-F1(0.6537),优于 2D 的 0.6134 与 3D 的 0.5403;动量对比预训练反而降低性能。代码与结果已开源。
一篇在 Hacker News 上讨论的技术文章,讲解如何仅凭记忆从零实现 Transformer 架构。内容面向希望深入理解注意力机制与模型内部结构的开发者与研究者。
论文提出DST-Net,针对趋势与季节分量采用差异化建模策略:趋势分支用潜在图块捕捉全局拓扑依赖,季节分支用高斯多尺度注意力缓解注意力分散。在多个真实基准上验证了该分解架构的有效性。
这篇 arXiv 综述系统梳理了深度学习在铁路异常检测中的应用,提出统一分类体系,涵盖异常位置、数据表征、传感模态与时间特性。文章将卷积、循环、注意力、自编码器、GAN、Transformer 等方法归入分类式、预测式、重构式与混合式四类范式,并讨论边缘-云部署、算力约束与硬件感知优化。最后给出面…
研究利用分布式声学传感(DAS)将地下光纤电缆改造为密集传感器阵列,结合深度学习框架将地面振动波形转化为时空表示,检测车辆轨迹并推断交通状态。在德州 College Station 的部署显示,该方法可实现米级空间、秒级时间的隐私保护型城市交通观测。
一篇以可视化方式讲解 Transformer 架构的技术文章在 Hacker News 上获得 87 分热度。文章通过图解帮助读者理解注意力机制、编码器解码器结构等核心概念。此类科普内容持续受到开发者社区关注。
研究提出一种深度架构,可端到端联合优化代价函数与路径排序模型,支持任意用户偏好的路线规划。方法利用多目标Dijkstra离线收集帕累托最优路径作为候选集,并设计可微最短路搜索网络,在真实数据集上显著优于现有方法。
研究提出 Drift Field Net(DFN),一种从业务卫星观测预测海洋表层流场的深度神经网络,用于北太平洋副热带环流区塑料垃圾漂移预报。采用模拟数据预训练加拉格朗日微调的两阶段策略,7 天预报平均定位误差较业务物理模型降低 20 公里,引入平流损失后再降 10 公里。
该论文首次系统性地研究多任务学习(MTL)在预测性流程监控(PPM)中的应用,对比单任务学习(STL)在多种任务组合、网络架构与优化方法下的表现。结果显示MTL在下一活动预测上显著提升,并能天然缓解类别不平衡问题,但任务平衡在低容量模型下尤为关键。
针对亚太赫兹通信中超宽带与严重相位噪声耦合导致的估计难题,论文提出复值残差 FFT 卷积注意力网络 CRFCAN。该网络在残差组内嵌入 FFT 与逆 FFT 模块,实现时频域迭代特征交互,并采用物理感知的相位噪声输出尾。仿真显示其在 NMSE 与误码率上显著优于传统算法与现有深度学习模型,且无需微…
研究量化海冰发展阶段(SoD)制图中的两类不确定性:来自不同冰情服务独立标注的标注者间标签不确定性,以及模型自身的不确定性。实验表明,融合多标注者信息的软监督可提升模型不确定性与标注分歧的相关性,在冰边缘 0–10 公里范围内相关性达 0.704。蒙特卡洛 dropout 提供最佳校准置信度,期望…
提出两层级堆叠集成框架预测涡扇发动机剩余寿命,集成多种深度学习基学习器。在C-MAPSS数据集上优于现有基线,验证了堆叠集成在健康管理中的有效性。
该研究提出物联网声学监测与深度学习结合,用于茶园白蚁早期检测和严重性评估。CNN在测试集上准确率81.5%,并引入定量严重性评估。现场试验验证了在真实噪声环境下的可行性,可支持管理者识别高风险区域。
研究将音乐愉悦感预测建模为回归问题,使用 MUSIN-G 数据集的 128 通道 EEG 数据,比较六种深度学习模型。DeepConvNet、CNN-LSTM 与 GNN-CNN 取得最低平均绝对误差,TCN 与评分相关性最高,并通过梯度与遮挡方法提供时序可解释性分析。
论文研究基于净智能电表的户用光伏发电分解,提出四种部署场景以区分家庭迁移与时间外推。基于 Ausgrid 与 Pecan Street 数据,实验显示部署场景对误差的影响远大于模型选择,目标域微调可将迁移误差降低 28%–36%。
一篇 arXiv 论文研究如何用机器学习和深度学习从海量历史数据中准确预测供应链运输与物流的预计行程时间。准确的行程时间估计有助于改善物流一致性、需求预测、提前期管理和装配计划,并提升客户满意度。
一篇短文从 Common Lisp 语言的角度探讨深度学习实践。作者分享了在 Lisp 生态中进行神经网络开发的观察与思考。该内容面向对非主流语言 AI 开发感兴趣的极窄众读者。