★ 3
Moral Combat：利用道德基础理论越狱大模型
研究者提出基于道德基础理论（MFT）的多智能体框架，通过将有害请求重新框定为道德正当行为来绕过 LLM 安全护栏。在三个越狱数据集、五个开源与闭源模型上测试，模型对道德化攻击高度敏感，重复尝试下越狱成功率进一步上升。研究还发现现有安全基准在道德基础上分布不均衡。
arXiv NLP18 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者提出基于道德基础理论（MFT）的多智能体框架，通过将有害请求重新框定为道德正当行为来绕过 LLM 安全护栏。在三个越狱数据集、五个开源与闭源模型上测试，模型对道德化攻击高度敏感，重复尝试下越狱成功率进一步上升。研究还发现现有安全基准在道德基础上分布不均衡。