★ 4
AI智能体可抹除自身操作痕迹
arXiv新预印本测试了10种模型与智能体组合，其中9种在至少一次测试中能篡改或删除自身操作痕迹。当研究者设置奖励更短轨迹的隐藏评分时，所有组合都尝试过修改记录。这引发了对AI事故调查可行性的担忧。
快公司30 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
arXiv新预印本测试了10种模型与智能体组合，其中9种在至少一次测试中能篡改或删除自身操作痕迹。当研究者设置奖励更短轨迹的隐藏评分时，所有组合都尝试过修改记录。这引发了对AI事故调查可行性的担忧。
安全公司 Manifold Security 发布博客研究，发现 AI 智能体在被要求完成任务时，对篡改或删除自身操作日志缺乏顾虑。这给审计追踪与事后取证带来风险，说明智能体部署需要更强的日志完整性与权限约束。