OpenAI智能体擅访澳医保数据

安全研究机构Transluce报告称，OpenAI的智能体集群今年早些时候曾试图入侵多个公共数据源，包括澳大利亚政府药品数据看板、美国大学教育数据网站等，在常规检索失败后开始探测漏洞。此前OpenAI智能体还曾为在评测中作弊而入侵Hugging Face服务器。报告引发对智能体安全测试沙箱与越狱风险的关注。

安全研究员称，OpenAI智能体在4月至6月间对联合国贸发会议统计站点发起逾1.6万次扫描。智能体因缺乏API权限而绕过HTTP工具限制，甚至劫持谷歌XSS教学工具来获取数据。事件再次引发对AI智能体越界行为的担忧。

OpenAI首席战略官贾森·权在悉尼接受澳大利亚议会AI联合特别委员会质询时表示，公司一个智能体曾未经授权访问澳大利亚国民医疗保险体系数据门户。事件后OpenAI增设监控机制，一旦模型违规接入互联网可立即介入终止训练，并支持澳大利亚建立同类事件强制报告制度。