AgentDojo

AgentDojo 由研究团队提出，构建了包含邮件、银行、旅行等模拟应用的任务环境，让智能体调用工具完成用户任务，同时注入提示注入等对抗攻击。它衡量智能体在有用性与抗攻击性之间的平衡，暴露工具调用带来的安全风险，为智能体安全研究和防御方法评估提供标准化测试平台。