★ 3
研究：分类指令可增强 LLM 恶意输入探针
论文系统测试在用户输入后附加分类指令后缀对激活探针监控效果的影响，在 13 个安全基准与三个开源模型家族上做严格留一数据集评估。结果显示分类格式本身带来最高约 4 个 AUC 点的分布外检测提升，且该收益可延续到生产环境的多位置池化探针。
arXiv cs.LG28 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文系统测试在用户输入后附加分类指令后缀对激活探针监控效果的影响，在 13 个安全基准与三个开源模型家族上做严格留一数据集评估。结果显示分类格式本身带来最高约 4 个 AUC 点的分布外检测提升，且该收益可延续到生产环境的多位置池化探针。
现有分布外（OOD）方法均为事后检测，依赖推理阶段的准确率与 AUC-ROC 间接评估。论文提出事前预测框架 PLSP，引入数据集无关的 CREDS 可信度评分、可信度曲线与可信度热图，刻画模型在不同数据集上的事前行为。实验表明该指标有助于提升模型对 OOD 的鲁棒性。