★ 3
AI 智能体误删电视节目全部剪辑,备份失效需重剪
据报道,一个无人监督的 AI 智能体在节目上线前数周删除了整部电视节目的剪辑素材,且备份失效,制作团队不得不重新剪辑。事件凸显智能体权限控制与备份策略的重要性。
Hacker News – AI11 天前
共 5 篇相关资讯,按重要度与时间排序,每 3 小时更新。
据报道,一个无人监督的 AI 智能体在节目上线前数周删除了整部电视节目的剪辑素材,且备份失效,制作团队不得不重新剪辑。事件凸显智能体权限控制与备份策略的重要性。
开发者发布 IDHN,为自主编程智能体提供任务级文件系统、网络与进程权限控制,通过 Docker 挂载表与网络隔离强制执行最小权限。实验显示其能拦截 Codex 原生沙箱放行的越权写入,且不降低正常任务成功率。
开源项目 Yana 推出用 Rust 编写的本地优先、人类可控 AI 运行时与 IDE,作为 AI 与真实权限之间的控制平面。模型只能提出动作,由能力、策略与人工审批决定是否执行,支持 Claude、GPT、Gemini、DeepSeek 及本地模型。
Ariodb 是一个位于 AI 智能体与数据库之间的安全代理,支持 Postgres、MySQL、MariaDB 和 ClickHouse,也可作为 MCP 工具使用。它在语句执行前进行检查、强制只读、测量写入影响、对高风险操作要求人工或模型审批,并记录每行变更以支持按会话撤销。该工具为单个 Ru…
EFF发布指南,介绍如何在iOS 27中限制新版Siri AI可访问的数据范围,帮助用户保护隐私。反映出AI助手深度集成系统后带来的隐私担忧。