★ 2
论文研究文本嵌入模型量化校准的收益与风险
研究在 e5-base-v2、BGE-M3、EmbeddingGemma-300m 三个文本嵌入模型上做 4 比特权重量化,共 161 次校准实验,发现同一流程的结果可从提升到灾难性退化,关键驱动因素是更新剂量。作者据此把校准视为可选干预,并提出基于验证集置信区间的准入规则,在 30 次决策中未选…
arXiv cs.AI12 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究在 e5-base-v2、BGE-M3、EmbeddingGemma-300m 三个文本嵌入模型上做 4 比特权重量化,共 161 次校准实验,发现同一流程的结果可从提升到灾难性退化,关键驱动因素是更新剂量。作者据此把校准视为可选干预,并提出基于验证集置信区间的准入规则,在 30 次决策中未选…