★ 4
OpenAI缺席英伟达代理安全平台
英伟达发起行业性的开放代理安全平台以防范失控 AI 代理，但 OpenAI 未公开支持。TechCrunch 获悉 OpenAI 正私下与英伟达合作。此事反映头部厂商在代理安全治理上的立场分歧。
TechCrunch AI33 天前
#代理安全
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
将间接提示注入重新定义为测试时搜索问题
该研究将间接提示注入形式化为测试时搜索问题，提出代理攻击者框架，通过环境侦察和策略推理提升漏洞发现能力。实验表明增加测试时计算可改善攻击效果，强调代理安全评估需考虑搜索过程和计算预算。
arXiv cs.AI56 天前
这个主题的相关资产
相关公司英伟达（Nvidia）1