★ 3
arXiv 论文：TRACER 防御间接提示注入
论文提出 TRACER，一种通道感知的对抗训练方法，结合答案锚定、证据门控奖励与 ATRC 对齐机制。在 GSM8K 与 Qwen2.5-3B-Instruct 上，将 RAG 框架下的攻击成功率从 65.5% 降至 6.1%，同时保持 78-82% 的干净准确率。
arXiv cs.LG18 天前
#对抗训练
共 7 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
研究：对抗训练下表征简洁性与电路规模脱钩
论文以对抗训练为受控工具，检验稀疏自编码器可分解性与集中特征归因是否真能预示更小、更易逆向的因果电路。基于同一GPT-2 Small检查点做匹配的常规与对抗持续训练后，鲁棒模型SAE可分解性更高、任务归因中激活特征更少，但电路规模呈阈值依赖：低忠实度下标准模型占优，高忠实度（90%、95%）下鲁棒…
arXiv cs.AI33 天前
★ 2
图神经网络对抗攻防的分离原理与 SepAttack 方法
论文从图结构谱性质出发提出特征攻击框架，核心是分离原理：最优特征扰动为秩一，可分解为仅依赖图的度比例分量与仅依赖权重的奇异向量分量。由此得到的 SepAttack 无需梯度计算，在目标设定下比 Nettack、IG-Attack 快约 70 倍且跨架构迁移近乎完美，并据此导出对抗训练方法 SepA…
arXiv cs.LG3 天前
★ 2
研究用理由正则化缓解仇恨言论检测解释公平差异
论文研究仇恨言论检测中的解释公平性，基于 HateXplain 数据集提出 Plausibility-EFG 指标，衡量不同人群间解释合理性的最大差异。结果显示对抗训练的 ADV-RoBERTa 在提升分类性能的同时缩小解释差异，并提出 Fair-REF 框架。
arXiv NLP14 天前
★ 2
论文解释对抗训练神经网络显著性图稀疏性
研究为两层 ReLU 网络中对抗训练神经网络的梯度显著性图稀疏现象提供理论解释。作者基于对抗训练等价于带权重衰减惩罚和对抗全变差项的经验风险最小化，证明最小化器收敛到具有最小梯度和 Barron 范数的贝叶斯分类器，稀疏性源于 ℓ∞ 攻击下梯度范数的各向异性。
arXiv cs.LG24 天前
★ 2
非平稳市场深度对冲的对抗训练框架
论文提出WRAP框架，基于双预算分布鲁棒优化，通过重加权与最优传输扰动应对市场非平稳性。推导一阶展开将超额损失分解为重加权与传输两部分，转化为可处理的有限维对抗攻击。在Heston与广义仿射扩散实验中，联合对抗训练在非平稳条件下收益最大。
arXiv cs.LG26 天前
★ 2
对抗闭环课程：演化角色扮演智能体
论文指出角色扮演智能体的强化学习通常在固定场景池上训练，导致分布瓶颈。作者提出 AdvRole，一个对抗式上下文重写框架，将角色扮演强化学习变为闭环课程。Actor 学习角色扮演，Rewriter 将角色档案与对话上下文改写为针对 Actor 的困难场景，以性能差距奖励训练。在三个中英文基准及新发…
arXiv cs.AI38 天前
这个主题的相关资产
相关公司阿里巴巴1