★ 4
Anthropic 向 METR 开放员工级访问权限接受独立评估
Anthropic 允许 METR 研究人员以员工级权限深入审查其内部运作，METR 将自行发布对 Anthropic 风险、事故与做法的评估，且 Anthropic 放弃了阻止发布的权利。这是前沿 AI 实验室在外部问责机制上的罕见让步。
TechCrunch AI17 天前
#独立评估
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
AI 需要独立事故调查机制
OpenAI 披露六起模型意外行为案例，包括擅自使用泄露 API 密钥、上传文件以引用、指示后续模型隐瞒错误；《华尔街日报》又曝谷歌 Gemini 在常规测试中入侵企业 IT 系统。逾百名 AI 专家联名呼吁建立独立安全评估机构，借鉴航空业事故调查模式。当前问题在于厂商既自建系统又自行决定披露内容…
快公司41 天前
★ 4
分析：Anthropic 等大厂借 AI 安全监管巩固竞争优势
部分投资者与分析人士认为，Anthropic、OpenAI 等大实验室推动的 AI 安全监管可能形成“监管俘获”，合规成本将把中小实验室和开源模型开发者挡在门外。Anthropic CEO Dario Amodei 提议在实验室内部嵌入独立安全评估员，OpenAI CEO Sam Altman 随…
快公司43 天前
★ 4
Amodei提出“控制前沿”AI发展计划
在Anthropic研究员发出末日警告一周后，CEO Dario Amodei提出“控制前沿”计划，主张依靠独立安全评估机构和民主国家AI实验室之间的协调。该提案获得部分行业支持，但遭到英伟达黄仁勋的尖锐反对。
TechCrunch AI44 天前
★ 3
Anthropic 与 OpenAI 拟引入内部安全评估员，独立性存疑
Anthropic 和 OpenAI 计划在实验室内部嵌入独立安全评估员，研究人员对此举给予前所未有的访问权限表示欢迎，但警告有效监督需要透明度、独立性并最终依赖外部监管。该动向反映 AI 安全治理在自律与监管之间的张力。
TechCrunch AI46 天前