★ 3
多租户AI智能体记忆存在跨用户语义泄露
一篇 arXiv 论文提出「跨用户可采性失效」概念,指出企业多租户部署的 AI 智能体共享同一向量存储时,普通余弦相似度检索即可让用户查询到他人的语义相邻记忆,无需任何攻击手段。实验显示非对抗性泄露率达 70%–100%,对抗性构造记忆的 top-k 命中率达 90%–100%,端到端响应污染评分…
arXiv cs.AI27 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
一篇 arXiv 论文提出「跨用户可采性失效」概念,指出企业多租户部署的 AI 智能体共享同一向量存储时,普通余弦相似度检索即可让用户查询到他人的语义相邻记忆,无需任何攻击手段。实验显示非对抗性泄露率达 70%–100%,对抗性构造记忆的 top-k 命中率达 90%–100%,端到端响应污染评分…
论文指出AI智能体默认跨会话无状态、操作性失忆,导致重复犯错。当前主流做法是定制化记忆,与单一存储引擎绑定,造成碎片化。作者主张将智能体记忆视为一等可插拔的中间件层,并提出六大系统挑战,同时给出参考实现ALTK-Evolve。
红帽发布博客文章,讨论主权 AI 的实现路径,认为仅靠地理边界不足以满足主权要求,需要引入多租户模型来保障数据隔离与合规。文章从数据中心架构角度提出这一观点,属于厂商技术观点输出。