★ 3
StartLux 开源决策模型推理引擎 Prism,单卡最高提速 5.3 倍
StartLux 开源了专为决策模型设计的推理引擎 Prism,针对决策类模型的推理流程进行优化,单卡最高可提速 5.3 倍。该引擎填补了决策模型缺乏专用推理引擎的空白,有望提升强化学习与决策类应用的部署效率。
InfoQ AI10 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
StartLux 开源了专为决策模型设计的推理引擎 Prism,针对决策类模型的推理流程进行优化,单卡最高可提速 5.3 倍。该引擎填补了决策模型缺乏专用推理引擎的空白,有望提升强化学习与决策类应用的部署效率。