★ 4
ASCII攻击：将有害请求重新语境化为艺术评论
论文揭示ASCII攻击，通过将有害请求嵌入ASCII艺术并伪装成艺术评论，绕过LLM安全对齐。在11个模型和8个话题中，62%的框架提示被判定有害，最高模型成功率93%。该攻击表明安全训练仅覆盖表面形式，存在泛化不足问题。
arXiv cs.AI60 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文揭示ASCII攻击，通过将有害请求嵌入ASCII艺术并伪装成艺术评论，绕过LLM安全对齐。在11个模型和8个话题中，62%的框架提示被判定有害，最高模型成功率93%。该攻击表明安全训练仅覆盖表面形式，存在泛化不足问题。