★ 3
LIS 数据集：2.4K 样本实现高效 LLM 安全对齐
研究者提出 Less is Safer（LIS）安全对齐数据集，利用稀疏自编码器（SAE）激活筛选覆盖多样安全特征的可解释提示，并通过多智能体对抗合成生成易触发过度拒答的无害提示。LIS 仅 2.4K 样本，却在四项安全与五项过度拒答基准上整体优于 TRIDENT-Core、WildJailbre…
arXiv NLP7 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者提出 Less is Safer（LIS）安全对齐数据集，利用稀疏自编码器（SAE）激活筛选覆盖多样安全特征的可解释提示，并通过多智能体对抗合成生成易触发过度拒答的无害提示。LIS 仅 2.4K 样本，却在四项安全与五项过度拒答基准上整体优于 TRIDENT-Core、WildJailbre…