★ 4
SoK：智能体时代越狱攻防的系统化梳理
论文以系统化知识（SoK）方式重新审视智能体 AI 时代的越狱安全，围绕用户交互、规划推理、记忆、工具调用与智能体间通信建立统一攻防分类。提出安全-效用-效率评估框架，并揭示三大缺口：原生对齐强不代表抗对抗越狱；防御效果高度依赖模型、攻击与组件；最终回复攻击成功率低可能掩盖规划、记忆与工具层的严重…
arXiv cs.AI49 天前
#安全评估
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 1
博客分析 AI 在安全剧场中的表现
一篇博客文章探讨 AI 系统在「安全剧场」式检查中的实际表现，指出形式化安全流程与实际防护能力之间的落差。文章为观点分析，未涉及具体产品发布。
Hacker News – AI8 天前
★ 1
BiNeuron：本地 AI 安全评估工具
开发者发布开源项目 BiNeuron，尝试用本地运行的 AI 工具评估系统安全性。该工具强调在本地环境完成安全测量，避免数据外传，适合对隐私敏感的安全评估场景。
Hacker News – AI39 天前