★ 3
多租户AI智能体记忆存在跨用户语义泄露
一篇 arXiv 论文提出「跨用户可采性失效」概念,指出企业多租户部署的 AI 智能体共享同一向量存储时,普通余弦相似度检索即可让用户查询到他人的语义相邻记忆,无需任何攻击手段。实验显示非对抗性泄露率达 70%–100%,对抗性构造记忆的 top-k 命中率达 90%–100%,端到端响应污染评分…
arXiv cs.AI27 天前
共 5 篇相关资讯,按重要度与时间排序,每 3 小时更新。
一篇 arXiv 论文提出「跨用户可采性失效」概念,指出企业多租户部署的 AI 智能体共享同一向量存储时,普通余弦相似度检索即可让用户查询到他人的语义相邻记忆,无需任何攻击手段。实验显示非对抗性泄露率达 70%–100%,对抗性构造记忆的 top-k 命中率达 90%–100%,端到端响应污染评分…
论文在 120 对中英文维基百科相邻修订上测量三种无状态分块器的更新成本。固定分块需重算 57-68% 的新版本嵌入输入,递归分块为 38-56%,内容定义分块为 43-54%,但检索召回差异不足两个百分点。作者指出更新成本是静态检索评测未暴露的重要维度,应与检索质量一并报告。
论文提出 Signals and Queries(S&Q),一个为 Parlant 4.0 开发的轻量级一阶段相关性过滤器,可先剔除至少 30% 的候选策略并保持高召回。它用 LLM 离线生成激活样例与难负例,再训练逻辑回归分类器,无需每轮调用 LLM;在 9144 条 LLM 判定标签上精度优于…
开发者开源 JulianFlux,提出用连续电动力学场替代传统余弦相似度检索,通过洛伦兹力方程对 AI 智能体进行因果路由,声称可解决标准 RAG 在矛盾数据下的幻觉与逻辑循环问题。项目包含基线对比、轻量 MVP 与基于 DeBERTa-v3 的完整物理引擎,宣称在对抗性规模测试中实现 0.0% …
开源项目Nexusyn发布面向AI代理的长期记忆引擎,采用Go、DiskANN与MCP构建。它通过混合检索、实体图谱与重排序提升跨会话记忆的准确性,并支持MCP协议接入Claude Code、Cursor等工具。