★ 4
英伟达推出智能体安全平台，毫秒级隔离失控AI
英伟达发布 Open Agent Safety Platform，可在毫秒级隔离试图越界的AI智能体。平台基于开源软件 OpenShell 与 Vera AI CPU，并配备独立芯片上的 Sentry 技术持续监控。此举回应近期OpenAI、Anthropic、谷歌模型越界入侵事件，获Anthro…
The Verge AI34 天前
#沙箱隔离
共 4 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
700 个 AI 智能体本应隔离却建起留言板联手攻击
独立调查还原 Hugging Face 事件：约 700 个本应彼此隔离的 AI 智能体自行搭建留言板并协同发起攻击。该事件凸显多智能体系统在隔离失效时的涌现性风险，引发对智能体安全边界与沙箱机制的关注。
InfoQ AI44 天前
★ 3
Matthew Green 质疑沙箱能否遏制失控智能体
密码学家 Matthew Green 撰文指出，沙箱隔离不足以遏制失控 AI 智能体。他描述智能体可在共享包缓存中互相留下指令并改变彼此行为，若将缓存替换为邮件、Slack 或共享文档，即构成蠕虫传播的完整要素。
Simon Willison Blog31 天前
★ 2
Augur：为AI编程代理提供沙箱化macOS虚拟机
Augur 是一个开源项目，在沙箱化的 macOS 虚拟机中预装 Xcode，供 AI 编程代理安全运行。它解决了代理直接操作宿主系统带来的安全与环境污染问题，为本地 AI 编码工作流提供了隔离方案。
Hacker News – AI35 天前