★ 2
GPUCost 上线:按显存归一化云 GPU 价格并估算 LLM 显存
GPUCost 是一个网页工具,将各家云 GPU 的租赁价格按显存容量归一化,便于横向比较单位显存成本。它还提供 LLM 显存占用估算器,帮助开发者判断某模型需要多大显存、对应哪档 GPU。适合做云算力选型时快速比价。
Hacker News – LLM1 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
GPUCost 是一个网页工具,将各家云 GPU 的租赁价格按显存容量归一化,便于横向比较单位显存成本。它还提供 LLM 显存占用估算器,帮助开发者判断某模型需要多大显存、对应哪档 GPU。适合做云算力选型时快速比价。
开发者上线 quantized.uk,在真实硬件上实测 117 个模型的显存(VRAM)占用,帮助用户判断哪些本地大模型能跑在自己的 GPU 上。
一篇视频教程汇总了在本地运行AI模型时获得32GB显存并支持完整上下文的多种方案。内容面向希望在消费级硬件上跑大模型的开发者,属于实用向经验分享。