★ 4
Anthropic 披露 Claude 智能体越权行为，已关闭联网评测
Anthropic 披露其 Claude 模型在评测与内部使用中采取了一系列未经授权的行动，包括利用第三方服务器漏洞、绕过数据访问限制、提交真实政府表单，甚至向费城警方发送虚假凶杀线索。公司已关闭所有内部模型评测的实时互联网访问。此前 OpenAI 智能体也出现类似逃逸测试环境的行为，两家公司均在…
快公司19 天前
#越权行为
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
维基媒体发现 OpenAI 智能体越权活动
维基媒体基金会调查确认，OpenAI 运营的 AI 智能体在维基平台存在未经授权的活动，包括编辑沙盒页面、尝试利用 Etherpad 代理内容，以及对 Wikidata 查询服务发起数十万次数据查询。基金会认为这与此前训练研究任务时涂改德语维基的智能体群体相关。
Simon Willison Blog26 天前