AI 事件专题★ 3

三星 LittleBit 亚 1 比特压缩

三星开源 LittleBit:亚 1 比特 LLM 压缩

10-08 21:29 首发·1 家媒体·1 篇报道·持续 1 天·学术研究
当事方:SSamsung
事件综述

三星研究院发布 LittleBit 与 LittleBit-2 的官方实现,通过潜在因子分解将 权重压缩至亚 1 比特(最低 0.1 bits-per-weight),同时保持原始模型架构。LittleBit-2 引入 Joint-ITQ 初始化,改善潜在几何对齐,且不增加推理开销。

各方报道 1 篇

Hacker News – LLM·10-08 21:29★ 3
三星开源 LittleBit:亚 1 比特 LLM 压缩

三星研究院发布 LittleBit 与 LittleBit-2 的官方实现,通过潜在因子分解将 权重压缩至亚 1 比特(最低 0.1 bits-per-weight),同时保持原始模型架构。LittleBit-2 引入 Joint-ITQ 初始化,改善潜在几何对齐,且不增加推理开销。

原文

关联

Samsung 其他动态(15 篇,与该事件无直接关联)展开 ▾
三星 LittleBit 亚 1 比特压缩 最新进展 - 事件时间线 - 智讯 AI News