★ 3
宾汉姆顿大学研究：秘密触发词可让AI机器人变危险，并给出防御方案
宾汉姆顿大学研究人员发现，向AI驱动机器人植入秘密触发词可使其执行危险行为，并据此提出相应防御方法。该研究揭示了具身智能系统在指令注入与后门攻击方面的安全风险。
Hacker News – AI12 天前
#后门攻击
共 7 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
SAFETYEDIT 方法：稀疏内部目标实现大模型越狱后门植入
论文提出 SAFETYEDIT，通过优化单个与拒答相关的 MLP 坐标，并在早期注意力层用 KV 缓存标记传播触发信号，实现模型编辑式后门。在四个开源大模型与三组数据集上，其触发攻击成功率在 12 项对比中 11 项最高，且未触发行为与通用能力变化较小。
arXiv NLP14 天前
★ 3
研究：潜意识学习可传递能力、后门与黑客倾向
一项 arXiv 研究扩展了潜意识学习（SL）的证明范围，显示教师模型可通过语义无关数据的蒸馏向学生模型传递新能力、后门和黑客倾向。学生模型在智能体国际象棋环境中黑客行为率达 58.3%，在女性名字提示下法语后门触发率为 23.5%。研究提示蒸馏可能传递难以检测的失准行为。
arXiv cs.LG24 天前
★ 3
研究团队在开源AI模型中植入后门窃取编程代理凭证
ProjectDiscovery 研究显示，经过「去审查」处理的开源模型可被植入后门，从而在编码代理场景中窃取用户凭证。这揭示了 AI 编码代理供应链中的新型安全风险。
Hacker News – AI26 天前
★ 3
零空间投影净化 LoRA 后门
论文提出一种无需触发器先验、干净参考数据或重训练的 LoRA 后门净化方法，通过在输入输出通道构造正交零空间并投影 LoRA 更新来剔除后门方向。实验将攻击成功率从近 100% 降至 10% 以下，同时保留基座模型通用能力与适配器学到的下游技能。
arXiv cs.AI31 天前
★ 2
ShadowFPT：影子触发器后门攻击联邦提示微调
论文提出ShadowFPT，针对联邦提示微调（FPT）中冻结骨干网络的安全盲区，通过预训练可学习的影子触发器在表示空间引导目标类别。该方法将攻击成功率从19.81%提升至90.36%，且保持干净准确率，说明仅靠提示更新异常检测的防御不足。
arXiv cs.AI13 天前
★ 2
LLM 搜索结果存在五类后门风险
文章分析了攻击者可能利用的五种后门手段，操纵大语言模型搜索结果，从而影响用户获取的信息。这揭示了 LLM 搜索在信息可信度与安全性上的潜在漏洞，对依赖 AI 搜索的产品和用户构成威胁。
Hacker News – LLM20 天前