#三元模型

三元 LLM 突破 1.58 比特限制

一项研究探索三元 LLM 的极限量化，突破 1.58 比特精度障碍。该方向有望大幅降低大模型推理的显存与算力需求，在 Hacker News 上获得关注。