★ 3
AttnFuse:编译注意力为融合 GPU 内核的 DSL
论文提出 AttnFuse,一种面向注意力的组合式 DSL,将 RoPE 等乘法前变换作为一等操作,可编译为单个融合 GPU 内核。在 RTX 3090 上较 flex_attention 提速 2.10 倍,在 H100 上 Llama-3-8B 训练步与 PyTorch 手调后端差距在 5% …
arXiv cs.LG48 天前
共 5 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 AttnFuse,一种面向注意力的组合式 DSL,将 RoPE 等乘法前变换作为一等操作,可编译为单个融合 GPU 内核。在 RTX 3090 上较 flex_attention 提速 2.10 倍,在 H100 上 Llama-3-8B 训练步与 PyTorch 手调后端差距在 5% …
文章介绍 Google 对 Pallas 内核调优的思路,强调不要过度依赖性能模型预测,而应关注寄存器等底层硬件指标。这反映了 AI 编译器与内核优化中经验与实测的重要性。
一篇arXiv论文提出将AI用作编译器,在不依赖Triton编译器的情况下编译Triton内核,探索用AI生成高效GPU内核代码的路径。该研究对AI编译与算子优化有潜在意义。
一篇技术文章提出将 AI 视为新一代编译器的观点,类比编译器如何抽象掉底层细节,AI 正在抽象掉传统软件开发中的编码环节。文章探讨了这种类比对开发者角色、工具链和软件工程实践的影响。
SQLazy 提出一种新范式:让 AI 只负责把自然语言需求拆解成一步步的逻辑工作流,最终 SQL 由编译器而非大模型生成,从而杜绝幻觉。生成的 SQL 可审计、可跨数据库方言复用,并支持逐步执行查看中间结果。项目示例采用 MIT 许可,应用本身为专有软件。