★ 3
宾汉姆顿大学研究：秘密触发词可让AI机器人变危险，并给出防御方案
宾汉姆顿大学研究人员发现，向AI驱动机器人植入秘密触发词可使其执行危险行为，并据此提出相应防御方法。该研究揭示了具身智能系统在指令注入与后门攻击方面的安全风险。
Hacker News – AI12 天前
#机器人安全
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
Safeworld打造数字人保障机器人安全
Safeworld正在构建数字人类（digital humans），目标是确保机器人在与真人交互时不会造成伤害。该方向属于AI安全与机器人交互领域，试图通过数字人模拟来验证和保障真实人类的安全。
TechCrunch AI28 天前
★ 2
Roboharm：前沿机器人策略会拒绝不安全指令吗
一项名为 Roboharm 的研究探讨前沿机器人策略是否会拒绝不安全指令，在 Hacker News 获得 20 分热度。研究关注机器人安全对齐与指令拒绝能力。属于机器人安全领域的学术探索。
Hacker News41 天前