★ 3
AlignPoison 揭示生成式推荐模型定向投毒漏洞
论文研究生成式推荐模型的条件定向投毒脆弱性，发现注入不到 1% 的合成交互即可显著提升触发条件下恶意目标推荐概率。作者提出黑盒框架 AlignPoison，从 API 输出中发现解码对齐前缀，攻击成功率最高提升 16.3 个百分点。
arXiv cs.AI19 天前
#数据投毒
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
利用不完美恢复改进数据可用性攻击
研究提出不完美恢复投毒（IRP）方法，通过理论分析CUDA攻击，在保持高图像质量的同时实现强投毒效果。实验表明IRP在监督学习和自监督学习场景下均优于八种基线方法，并抵抗五种防御方法。
arXiv cs.AI56 天前
★ 2
Voxiferi 推出 VoxWall「AI 入口防火墙」
Voxiferi 发布 VoxWall，定位为面向 AI 系统的「入口防火墙」，用于拦截进入模型的有害或劣质数据。该产品针对 AI 数据投毒与提示注入等入口侧风险，属于 AI 安全防护工具。
Hacker News – AI40 天前
这个主题的相关资产
相关公司英伟达（Nvidia）1