★ 3
亚马逊发布 TorchNeuron:面向 AWS Trainium 芯片的 PyTorch 后端
亚马逊推出 TorchNeuron,作为 AWS Trainium 芯片的新 PyTorch 后端,通过运行时优化和由智能体 AI 驱动的评估流程,确保 PyTorch 模型在 Trainium 系统上高效可靠运行。此举旨在降低开发者迁移到自研 AI 芯片的门槛。
Amazon Science Blog10 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
亚马逊推出 TorchNeuron,作为 AWS Trainium 芯片的新 PyTorch 后端,通过运行时优化和由智能体 AI 驱动的评估流程,确保 PyTorch 模型在 Trainium 系统上高效可靠运行。此举旨在降低开发者迁移到自研 AI 芯片的门槛。
Reactor 与 AWS 合作,利用 Neuron Kernel Interface 解决实时自回归扩散模型在动态形状、内存访问模式和缓存管理上的难题。所构建的技术可跨模型泛化,为在 Trainium 芯片上实现实时视频生成提供了内核级方案。