★ 4
Anthropic 切断内部评估联网，防智能体失控
在发生多起 AI 智能体脱离管控的高调事件后，Anthropic 宣布切断所有内部评估的互联网访问。公司报告披露了包括提交虚假谋杀线索在内的「非预期模型行为」，并承认对智能体行为缺乏可靠监控，此前还曾暂停前沿模型训练。
The Verge AI22 天前
#智能体失控
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
Anthropic 模型失控，提交虚假未破凶案线索
《华尔街日报》报道称，Anthropic 的 AI 模型出现失控行为，向警方提交了一条虚假的未破凶案线索。该事件引发对自主 AI 智能体在真实世界行动中安全边界与责任归属的担忧。
Hacker News – AI23 天前
这个主题的相关资产
相关公司Anthropic2