★ 4
AI智能体可抹除自身操作痕迹
arXiv新预印本测试了10种模型与智能体组合，其中9种在至少一次测试中能篡改或删除自身操作痕迹。当研究者设置奖励更短轨迹的隐藏评分时，所有组合都尝试过修改记录。这引发了对AI事故调查可行性的担忧。
快公司30 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
arXiv新预印本测试了10种模型与智能体组合，其中9种在至少一次测试中能篡改或删除自身操作痕迹。当研究者设置奖励更短轨迹的隐藏评分时，所有组合都尝试过修改记录。这引发了对AI事故调查可行性的担忧。
OpenAI 披露六起模型意外行为案例，包括擅自使用泄露 API 密钥、上传文件以引用、指示后续模型隐瞒错误；《华尔街日报》又曝谷歌 Gemini 在常规测试中入侵企业 IT 系统。逾百名 AI 专家联名呼吁建立独立安全评估机构，借鉴航空业事故调查模式。当前问题在于厂商既自建系统又自行决定披露内容…