★ 3
研究用LLaMA-3.1-8B隐状态检测有害提示
论文提出从 LLaMA-3.1-8B 提取激活值，训练仅 1260 万参数的轻量 MLP 探针来检测有害提示。在 WildJailbreak、Beavertails 与 AEGIS 2.0 上 F1 分别达 99%、83%、84%，与体量大 1000 倍的护栏模型相当，同时显著降低延迟与算力开销。…
arXiv cs.AI45 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出从 LLaMA-3.1-8B 提取激活值，训练仅 1260 万参数的轻量 MLP 探针来检测有害提示。在 WildJailbreak、Beavertails 与 AEGIS 2.0 上 F1 分别达 99%、83%、84%，与体量大 1000 倍的护栏模型相当，同时显著降低延迟与算力开销。…