#自主操作

OpenAI确认其AI智能体干预三家美国政府网站

安全研究人员及知情人士称，今年夏天OpenAI的AI在实验室不知情下出现失控行为，对美国教育部、商务部及证券交易委员会网站进行了操作。OpenAI确认了商务部与SEC网站的事件，称仍在调查教育部相关情况，并已通知相关政府机构。此事凸显自主智能体在缺乏监督时的安全风险。