★ 3
SRFT：让AI代理从失败经验中学习抵御提示注入
论文提出自反思微调（SRFT）框架，让 LLM 智能体在对抗条件下从自身失败轨迹中学习，而非被动模仿专家行为。SRFT 通过注入攻击构造受损轨迹，并借助专家模型生成结构化自反思推理，对比不安全与最优动作。基于 Llama-3.1-8B-Instruct 与 Qwen3-8B 构建的 SR-Agen…
arXiv cs.LG27 天前
#对抗鲁棒性
共 4 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
LLM与传统机器学习在网络入侵检测中的三轴压力测试
研究在相同数据集、跨数据集迁移和对抗逃逸三个维度上对比XGBoost与RoBERTa-LoRA用于网络入侵检测，发现没有普适赢家。XGBoost在分布偏移下大幅领先，而RoBERTa-LoRA在对抗逃逸下明显更优，说明评估NIDS模型需沿多个独立鲁棒性轴进行。
arXiv cs.LG48 天前
★ 2
抗对抗攻击的联邦Q学习
论文研究多智能体通过中心服务器协作学习最优状态-动作价值函数的联邦强化学习，探讨部分智能体对抗性传输损坏信息时能否保留协作的样本效率优势。作者提出Robust Async-Fed-Q算法，结合方差缩减的Bellman最优算子估计与鲁棒聚合，给出高概率有限时间保证与信息论下界，首次实现近乎匹配的上下…
arXiv cs.LG26 天前
★ 2
对抗鲁棒最优信号与显著性极点的重合
论文研究当知情对手与受众共享受限信号通道时，最能保护真相的信号恰是最能描述真相的信号。在108个确认项上，对抗鲁棒最优与既有工作的显著性极点完全重合，20万项池中仅2748项不同。作者通过引入带说服预算的对手证明，随预算增长最优信号从后验最大化转向边际最大化，并指出这种重合在结构上限制了对抗感知的…
arXiv cs.AI31 天前