★ 4
可信智能体AI：网络安全与系统综述
综述指出从被动基础模型转向自主智能体AI后，自然语言同时充当输入数据、内部控制代码与通信协议，形成图灵完备的攻击面。文章综合206项基础研究与监管标准，将智能体架构形式化为有状态五元组，建立六维可信分类体系，并提出融合双LLM隔离、能力访问控制、eBPF探针与沙箱运行时的零信任纵深防御架构。
arXiv cs.AI48 天前
#威胁建模
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
GraphRAG-LTM：图检索增强生成攻击的分层威胁建模框架
论文提出 GraphRAG-LTM，一个分层威胁建模框架，测试三个嵌套级别的攻击者访问权限。黑盒查询利用排序反馈降级相关种子块，白盒查询使用检索器梯度，图感知白盒则删除桥接三元组以破坏多跳证据传播。实验表明，仅排序反馈即可降低答案质量，梯度访问增强查询攻击，桥接三元组删除进一步损害支持事实检索。
arXiv NLP18 天前