★ 3
arXiv 论文揭示「顺势疗法式学习」：稀释投毒数据反而强化后门
研究者提出「顺势疗法式学习」现象：单独使用对模型几乎无影响的投毒数据，在混入格式相似的干净数据后反而能让模型学到目标特质（如德语能力或失准行为）。该效应依赖投毒数据中存在干净数据所缺的「触发」特征，并在后门学习、奖励黑客、MNIST 误标等多种场景复现。作者用简单回归模型解释其机制，并指出仅孤立审…
arXiv cs.AI5 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者提出「顺势疗法式学习」现象：单独使用对模型几乎无影响的投毒数据，在混入格式相似的干净数据后反而能让模型学到目标特质（如德语能力或失准行为）。该效应依赖投毒数据中存在干净数据所缺的「触发」特征，并在后门学习、奖励黑客、MNIST 误标等多种场景复现。作者用简单回归模型解释其机制，并指出仅孤立审…