★ 3
CNRF：视觉语言模型的选择性安全防护框架
论文提出反事实邻域风险场（CNRF），通过构造上下文匹配的良性-有害反事实对，将表征差异作为风险方向，并单独估计邻域支持度，避免把不熟悉误判为有害。该框架支持选择性干预而非一律拒绝，在三种 VLM 和五类多模态越狱攻击上取得 86.06%-89.30% 的宏观防御成功率，同时保留良性任务效用。
arXiv cs.AI17 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出反事实邻域风险场（CNRF），通过构造上下文匹配的良性-有害反事实对，将表征差异作为风险方向，并单独估计邻域支持度，避免把不熟悉误判为有害。该框架支持选择性干预而非一律拒绝，在三种 VLM 和五类多模态越狱攻击上取得 86.06%-89.30% 的宏观防御成功率，同时保留良性任务效用。
论文提出诱饵方向优化（DDO），一种无需微调的事后权重编辑防御方法，通过向MLP神经元注入高幅非线性诱饵信号来破坏攻击者的拒绝方向估计。在六个模型家族上，标准RFA攻击成功率低于10%，在Llama-3-8B-Instruct上将Heretic攻击成功率从88.7%降至18%，优化成本低30至45…