★ 3
Flint 40B 发布:可在 MacBook 本地运行,速度达 125 Tps
Richard Socher 在社交平台介绍 Flint 40B,一款面向本地部署的前沿大模型,在 MacBook 上可达每秒 125 token 的生成速度。该模型主打本地化与高吞吐推理。
Hacker News – LLM11 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
Richard Socher 在社交平台介绍 Flint 40B,一款面向本地部署的前沿大模型,在 MacBook 上可达每秒 125 token 的生成速度。该模型主打本地化与高吞吐推理。