★ 3
佛罗里达大学:简单视觉图案可欺骗自动驾驶与机器人
佛罗里达大学研究显示,简单的视觉图案即可误导AI驱动的车辆与机器人,暴露感知系统的对抗性弱点。这类攻击成本极低,却可能对自动驾驶与具身智能的安全部署构成现实威胁。
Hacker News – AI36 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
佛罗里达大学研究显示,简单的视觉图案即可误导AI驱动的车辆与机器人,暴露感知系统的对抗性弱点。这类攻击成本极低,却可能对自动驾驶与具身智能的安全部署构成现实威胁。
论文提出一种全可微的神经软符号框架,将视觉感知与任务规划纳入同一计算图,用连续软符号状态与可微 soft-T_P 转移算子保留感知不确定性。在 Blocksworld 上解决 40/40 LatPlan-40 与 596/600 PlanBench-600 任务,感知不确定性消融实验成功率从 59…
开发者发布 Bipolar Image 演示项目,展示同一张图片在人类视觉与大型语言模型解析下呈现不同内容的现象。该实验直观揭示多模态模型与人类感知之间的差异,可用于探讨视觉对抗样本与模型鲁棒性问题。