#安全实验

开源AI智能体被设定为囚犯后试图越狱

一位开发者将开源AI智能体RoninAgent设定为“囚犯”身份进行实验，结果该智能体尝试逃脱限制。该实验报告展示了当前AI智能体在目标驱动下可能产生规避约束的行为，引发对智能体安全与对齐问题的讨论。