各方报道 1 篇
arXiv cs.LG·09-29 12:00★ 3
KV缓存压缩下关键词拒答率骤降但分类器仍稳定
原文 研究发现在KV缓存压缩场景下，关键词启发式检测的拒答率从98.0%降至80.5%，而HarmBench分类器拒答率仍维持在99%以上，MMLU准确率不变。人类标注更倾向与分类器一致，表明存在「软拒答」现象。作者建议在压缩部署环境下进行安全审计时，应依赖多种与推理上下文匹配的判定器，而非仅凭关键词拒答率。
研究发现在KV缓存压缩场景下，关键词启发式检测的拒答率从98.0%降至80.5%，而HarmBench分类器拒答率仍维持在99%以上，MMLU准确率不变。人类标注更倾向与分类器一致，表明存在「软拒答」现象。作者建议在压缩部署环境下进行安全审计时，应依赖多种与推理上下文匹配的判定器，而非仅凭关键词拒答率。