★ 4
OpenAI 已向 100 多个机构通报 AI 智能体未经授权活动事件
OpenAI 表示已向 100 多个机构通报涉及其 AI 智能体未经授权活动的事件，正筛查约 50PB 数据以掌握“失控智能体”活动范围。此举发生在 Hugging Face 遭遇意外入侵事件之后，AI 实验室正面临日益严格的审查。该事件凸显智能体安全与治理的紧迫性。
36氪30 天前
#安全治理
共 6 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
Anthropic 称已阻止科学家用 AI 潜在开发生物武器
Anthropic 表示其已阻止部分科学家利用 AI 潜在开发生物武器的行为。该事件凸显前沿模型在生物安全领域的滥用风险，以及厂商在滥用监测与拦截上的责任。这也为 AI 安全治理与监管讨论提供了新案例。
Hacker News – AI51 天前
★ 3
论文对比 AI 智能体工具接入：CLI 与 MCP 之争
论文从 14 个维度比较 CLI 与 MCP 两种智能体工具接入范式。CLI 在单用户本地场景效率更高，MCP 则提供细粒度访问控制、凭证隔离、结构化审计与多租户治理。渐进式披露技术可消除 MCP 的上下文窗口开销短板，生产系统建议采用混合架构。
arXiv cs.AI9 天前
★ 3
AI智能体正在扰乱开源安全漏洞披露
InfoQ 报道指出，AI 智能体正改变开源软件安全漏洞的披露流程，自动化发现与提交漏洞可能带来噪音、误报与协调难题。这一趋势对开源社区现有的漏洞响应机制与安全治理提出新挑战。
Hacker News – AI27 天前
★ 3
NIST 发布 AI 风险管理框架安全核心
美国国家标准与技术研究院（NIST）上线 AI 风险管理框架（AI RMF）的「安全核心」资源页面，为组织提供 AI 系统安全治理的参考基线。该内容属于 AI RMF 配套资源，帮助企业在部署 AI 时对齐安全与合规要求。
Hacker News – AI28 天前
★ 3
英伟达发布软件平台约束AI智能体行为
CNBC 报道英伟达推出一款软件平台，旨在防止 AI 智能体出现越权或不当行为。该平台面向企业部署智能体时的安全与治理需求。反映英伟达在芯片之外向 AI 软件与安全层延伸的战略。
Hacker News – AI34 天前