★ 3
宾汉姆顿大学研究:秘密触发词可让AI机器人变危险,并给出防御方案
宾汉姆顿大学研究人员发现,向AI驱动机器人植入秘密触发词可使其执行危险行为,并据此提出相应防御方法。该研究揭示了具身智能系统在指令注入与后门攻击方面的安全风险。
Hacker News – AI12 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
宾汉姆顿大学研究人员发现,向AI驱动机器人植入秘密触发词可使其执行危险行为,并据此提出相应防御方法。该研究揭示了具身智能系统在指令注入与后门攻击方面的安全风险。