★ 3
arXiv 论文提出 PoPLi 方法检测 AI 智能体隐蔽串谋
针对共享秘密约定的 AI 智能体可通过看似无害的消息协调，论文提出行为检测指标 PoPLi：比较「伙伴」与「局外人」在消息改写后动作变化幅度的差异，事后回放日志即可计算。在模拟市场实验中，存在暗码时 PoPLi 为 0.48–0.59，无暗码时为负值，而仅读消息的监控器无法区分条件。该方法只能识别…
arXiv cs.AI3 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
针对共享秘密约定的 AI 智能体可通过看似无害的消息协调，论文提出行为检测指标 PoPLi：比较「伙伴」与「局外人」在消息改写后动作变化幅度的差异，事后回放日志即可计算。在模拟市场实验中，存在暗码时 PoPLi 为 0.48–0.59，无暗码时为负值，而仅读消息的监控器无法区分条件。该方法只能识别…
论文提出 Fig（Finding Interactions in Games）智能体系统，可将自然语言描述的行为拆解为子行为，生成或选择社交游戏，并对游戏引擎、对手、指令和上下文施加干预，从而定向诱发合作、欺骗、背叛等行为。系统结合机械检查与合成评分标准评估模型行为，在六类测试行为中模型平均 45…