★ 4
微软 CEO 纳德拉称 AI 模型是潜在内部威胁,需设紧急刹车
微软CEO萨提亚·纳德拉在X平台发帖表示,企业应将强大AI模型视为潜在内部威胁,假定其可能已被攻破,并建立可随时暂停或关闭模型的「紧急刹车」机制。他称企业不应仅依赖模型开发商的安全保证。此番言论背景是Anthropic与OpenAI近期披露多起模型非预期行为事件,加剧了外界对前沿AI安全风险的担忧。
36氪22 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
微软CEO萨提亚·纳德拉在X平台发帖表示,企业应将强大AI模型视为潜在内部威胁,假定其可能已被攻破,并建立可随时暂停或关闭模型的「紧急刹车」机制。他称企业不应仅依赖模型开发商的安全保证。此番言论背景是Anthropic与OpenAI近期披露多起模型非预期行为事件,加剧了外界对前沿AI安全风险的担忧。
微软 CEO 萨提亚·纳德拉发文表示,是时候「退后一步评估 AI 的信任架构」,主张为 AI 模型设置紧急制动机制。此番表态来自头部 AI 厂商高管,可能推动行业对 AI 安全与可控性的进一步讨论。