技术
Jailbreak（越狱攻击）
Jailbreak指通过精心设计的提示绕过LLM的安全限制，使其生成有害内容，解决的是模型安全对齐的脆弱性问题，典型攻击如DAN和角色扮演。
详细解释
Jailbreak攻击利用模型对指令的遵循能力，通过构造特殊提示（如角色扮演、编码混淆、多轮诱导）使模型忽略安全策略。常见方法包括GCG、AutoDAN等自动化攻击。防御手段包括对抗训练、输入过滤和RLHF增强。该问题凸显了LLM安全对齐的挑战。
别名与相关写法
jailbreak
相关术语
Language Model共现 2 篇
Diffusion Language Model共现 1 篇
Markov Decision Process共现 1 篇
Large Language Models共现 1 篇
agentic AI共现 1 篇
Alignment共现 1 篇
相关公司
相关资讯
SoK：智能体时代越狱攻防的系统化梳理2026/9/14
研究提出有效性感知的 LLM 越狱评估方法2026/9/2
CoFiBreak 提出粗到细多样性奖励，提升多轮越狱攻击多样性2026/11/2
Jailbreak Connectivity：多模态大模型通用越狱攻击框架2026/10/30
M³ 多 LLM 系统将多轮越狱建模为马尔可夫决策过程2026/10/26
SAFETYEDIT 方法：稀疏内部目标实现大模型越狱后门植入2026/10/19
Moral Combat：利用道德基础理论越狱大模型2026/10/15
语义重建游戏：LLM 越狱评估新方法2026/10/15