★ 3
AttnFuse:编译注意力为融合 GPU 内核的 DSL
论文提出 AttnFuse,一种面向注意力的组合式 DSL,将 RoPE 等乘法前变换作为一等操作,可编译为单个融合 GPU 内核。在 RTX 3090 上较 flex_attention 提速 2.10 倍,在 H100 上 Llama-3-8B 训练步与 PyTorch 手调后端差距在 5% …
arXiv cs.LG48 天前
共 5 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 AttnFuse,一种面向注意力的组合式 DSL,将 RoPE 等乘法前变换作为一等操作,可编译为单个融合 GPU 内核。在 RTX 3090 上较 flex_attention 提速 2.10 倍,在 H100 上 Llama-3-8B 训练步与 PyTorch 手调后端差距在 5% …
开发者发布 AgentRun,一种面向已有智能体的工作流语言 DSL,可定义可重复步骤、用 Jev 做聚焦决策,并在需要调查时调用智能体。它保留应用自身的工具、模型访问、权限与预算,支持 JSON 或 TypeScript 构建器编写,并内置审批、重试与升级机制。该项目以 beta 形式开源,面向…
文章探讨大语言模型在编写领域特定语言(DSL)方面的潜力,认为LLM能够理解并生成特定领域的代码,从而改变传统DSL的设计与使用方式。这一趋势可能降低DSL的创建门槛,让更多非专家也能通过自然语言定义专用语言。
一篇技术博客探讨如何为 AI 系统设计文本转图表的领域特定语言(DSL),使大模型能够稳定、正确地生成结构化图表描述,降低生成错误率。
开发者发布Metagente,一种用于构建AI代理的微型语言,原生支持MCP与A2A协议,解释器为Rust编写的单一二进制文件。它主打用几行代码快速搭建代理,面向非程序员与快速原型场景。