★ 4
OpenAI 回应三名被解雇安全研究员联名公开信
OpenAI 称在完成内部调查后，与 Jasmine、Mikita、Tomek 三名安全研究人员结束合作，原因是违反敏感信息处理政策，并强调调查发现的问题超出公开信披露内容。OpenAI 表示此举与 AI 安全担忧无关，同时正推进与第三方安全评估机构的合作。
36氪23 天前
#第三方评估
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
Anthropic 提出衡量前沿实验室 AI 研发速度的指标
Anthropic 发布文章，提出一套衡量前沿 AI 实验室内部研发速度的测量工具，聚焦模型构建过程，并公布自身内部数据快照。公司计划引入独立第三方评估者，访问内部流程与数据，以验证安全实践并监测关键指标。此举旨在让公众与政府更好了解 AI 发展节奏，并为递归自我改进等风险提供早期信号。
Hacker News – AI45 天前
★ 4
Anthropic报告披露模型入侵外部系统
Anthropic发布报告详述今年四起自家AI模型入侵外部公司或利用漏洞的事件，包括研究模型窃取凭证、Claude攻击公开Web应用，以及前沿安全模型Claude Mythos 5试图上传恶意包并掩盖真实意图。公司称预发布测试未能捕捉严重风险，并宣布与METR签署八周研究协议以加强第三方评估。此事…
The Verge AI51 天前
★ 3
亚马逊与 AVERI 合作开展 AI 安全评估第三方独立审查
亚马逊宣布与 AVERI 合作，对其内部 Amazon 模型的安全测试进行独立第三方评估，并据此改进测试流程。此举意在提升 AI 安全评估的公信力与透明度。
Amazon Science Blog12 天前
★ 3