★ 4
封闭世界解析防御LLM智能体的工具幻觉
研究揭示工具增强LLM智能体的结构性盲区：它们会调用不存在的工具并传入无schema声明的参数，而现有工具选择与门控方法均预设调用指向真实工具，无法拒绝幻觉调用。作者给出工具幻觉五类分类H1-H5，提出免训练的封闭世界解析器Resolution Rung，并证明幻觉防御必须先于任何因果门控。在十款…
arXiv cs.AI45 天前
#安全防御
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
AI助推漏洞利用，月度披露量翻倍至1万
报道称漏洞披露数量翻倍至每月约1万条，AI正加速漏洞的发现与利用。这一趋势给企业安全防御带来更大压力，凸显AI在攻防两端的双刃剑效应。
Hacker News – AI32 天前
★ 1
Wordfence 称网络安全需求将依赖 AI 数学
Wordfence 博客文章指出，面对日益复杂的网络安全威胁，行业将越来越依赖 AI 相关的数学方法。文章探讨 AI 数学在安全防御中的应用前景。
Hacker News – AI24 天前