★ 5
中美安全专家提议对 AI 风险采取核武式保障措施
路透社报道,中美两国安全专家联合提议,参照核武器领域的保障机制来管控 AI 风险,包括核查与透明度安排。这一跨国产学研倡议在 AI 安全治理领域具有标志性意义,可能推动国际 AI 安全对话与规则制定。
Hacker News – AI45 天前
共 7 篇相关资讯,按重要度与时间排序,每 3 小时更新。
路透社报道,中美两国安全专家联合提议,参照核武器领域的保障机制来管控 AI 风险,包括核查与透明度安排。这一跨国产学研倡议在 AI 安全治理领域具有标志性意义,可能推动国际 AI 安全对话与规则制定。
Politico 报道特朗普拒绝支持建立全球性 AI 监管实体。此举与联合国及多国推动国际 AI 安全治理的努力形成对立。美国立场可能影响全球 AI 监管协调的走向。
OpenAI敦促美国牵头与其他国家共同为前沿AI制定国际技术标准,明确哪些AI事件应通报、各国如何合作以及改善算力获取。此举回应了外界对AI潜在危害日益加剧的担忧。
联合国独立国际 AI 科学小组发布首份主题简报,警告各国政府应在 AI 智能体风险被完全理解之前就加强管控。报告援引今年早些时候 OpenAI 相关 Hugging Face 被攻击事件,指出失控风险正属于预防原则适用的情形——潜在危害可能灾难性或不可逆,即便概率尚不确定。该简报在联大会议及中美 …
联合国秘书长将 AI 风险与核武器相提并论,呼吁各国保持同样的紧迫感。澳大利亚加入呼吁 AI 安全保障的行列,警告风险可能失控。这反映出国际社会对前沿 AI 安全治理的关注持续升温。