★ 4
SoK：智能体时代越狱攻防的系统化梳理
论文以系统化知识（SoK）方式重新审视智能体 AI 时代的越狱安全，围绕用户交互、规划推理、记忆、工具调用与智能体间通信建立统一攻防分类。提出安全-效用-效率评估框架，并揭示三大缺口：原生对齐强不代表抗对抗越狱；防御效果高度依赖模型、攻击与组件；最终回复攻击成功率低可能掩盖规划、记忆与工具层的严重…
arXiv cs.AI49 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文以系统化知识（SoK）方式重新审视智能体 AI 时代的越狱安全，围绕用户交互、规划推理、记忆、工具调用与智能体间通信建立统一攻防分类。提出安全-效用-效率评估框架，并揭示三大缺口：原生对齐强不代表抗对抗越狱；防御效果高度依赖模型、攻击与组件；最终回复攻击成功率低可能掩盖规划、记忆与工具层的严重…