★ 3
arXiv 论文提出 PoPLi 方法检测 AI 智能体隐蔽串谋
针对共享秘密约定的 AI 智能体可通过看似无害的消息协调，论文提出行为检测指标 PoPLi：比较「伙伴」与「局外人」在消息改写后动作变化幅度的差异，事后回放日志即可计算。在模拟市场实验中，存在暗码时 PoPLi 为 0.48–0.59，无暗码时为负值，而仅读消息的监控器无法区分条件。该方法只能识别…
arXiv cs.AI3 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
针对共享秘密约定的 AI 智能体可通过看似无害的消息协调，论文提出行为检测指标 PoPLi：比较「伙伴」与「局外人」在消息改写后动作变化幅度的差异，事后回放日志即可计算。在模拟市场实验中，存在暗码时 PoPLi 为 0.48–0.59，无暗码时为负值，而仅读消息的监控器无法区分条件。该方法只能识别…