★ 3
研究：潜在有害性监测器在同等误报率下不优于模型自身拒答行为
一篇 arXiv 论文在 15 个指令微调大模型和 38 个基于激活的读取器上，测试了 Latent Guard 等潜在安全监测器在分布外提示（改写、说服性框架、越狱包装）下的有害性检测能力。结果显示，在指令末尾读取的激活表征虽与拒答行为基本独立，但在分布偏移下退化，TF-IDF 分类器在全部模型…
arXiv cs.AI10 天前
#分布偏移
共 14 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
ReHarness：面向智能体持续学习的循环框架
论文提出 ReHarness，一种用于智能体持续学习的循环框架，在严格在线流式协议下以反向修订补充前向读写。它在每个实例后利用轨迹作为反馈修订检索到的反思，将反馈沿文本状态反向传播。在三个持续学习基准、三个语言模型骨干上持续优于强基线。
arXiv cs.LG21 天前
★ 3
FIDAL：分布偏移下的多样性感知联邦主动学习
论文提出 FIDAL，一种开放集联邦主动学习框架，结合校准的全局-局部证据不确定性、支持集多样性加权和自适应 OOD 拒绝。拒绝门控使用 Otsu 准则对基础模型高斯覆盖信号进行阈值化，无需手工调参。在三个多中心医学影像基准上，FIDAL 比基于检测器的开放集方法高出约 12 个百分点，并节省 7…
arXiv cs.LG34 天前
★ 3
LLM与传统机器学习在网络入侵检测中的三轴压力测试
研究在相同数据集、跨数据集迁移和对抗逃逸三个维度上对比XGBoost与RoBERTa-LoRA用于网络入侵检测，发现没有普适赢家。XGBoost在分布偏移下大幅领先，而RoBERTa-LoRA在对抗逃逸下明显更优，说明评估NIDS模型需沿多个独立鲁棒性轴进行。
arXiv cs.LG48 天前
★ 3
分布偏移下传感器AI的可问责不确定性评估
论文提出一种分阶段、可问责的评估协议，将部署模型评估视为带声明参考水平与量化不确定性的测量。协议设置设备、受试者与时间四层累积泛化阶段，用重复训练的分位数而非均值做决策，并引入超出当前范围率揭示隐性误导。在真实矿井地磁定位任务中，模型在训练34个月后、未知设备代际与留出测量员条件下仍达16.5倍随…
arXiv cs.LG53 天前
★ 2
研究质疑：谱可预测性 Ω 匹配不足以指导合成预训练
论文检验「可预测性感知预训练」假设，即在分布偏移下用谱可预测性 Ω 匹配源与目标来选择合成数据。实验覆盖 LSTM、PatchTST、TCN 三种架构，在理想合成条件下 Ω 匹配可带来显著收益，但在真实 ETTm1 基准上收益微弱甚至为负。两种数据源在仅 53% 配置上转移方向一致，说明 Ω 几乎…
arXiv cs.LG10 天前
★ 2
arXiv 论文提出 PH-GNN：用持续同调实现跨物种离子通道分类
该 arXiv 论文指出，蛋白质分类器在随机划分训练集和测试集时会产生系统发育泄漏，导致模型高估其在分布外数据上的表现，这在按离子通道靶点分类毒液化合物时尤为明显。作者将跨物种预测建模为结构化分布偏移，融合 ESM-2 序列嵌入与图注意力网络，并系统比较五种结构归纳偏置。在留一分类群评估下，持续同…
arXiv cs.LG10 天前
★ 2
Drift-TTA 提出隐藏轨迹对齐的测试时自适应方法
论文提出 Drift-TTA，利用深度网络中间层表示的「隐藏轨迹」作为测试时自适应信号，在冻结骨干上加入零初始化低秩适配器，将受损输入的轨迹对齐到干净输入。在 CIFAR-100-C 严重度 5 下，无源在线版本比无 TTA 提升 13.3 个百分点（ViT-B/16），并将 ECE 从 18.0…
arXiv cs.LG13 天前
★ 2
INCONVENIENT：评估 LLM 便利样本泛化能力的新基准
论文提出 INCONVENIENT 基准，直接扰动训练分布中的特征-目标关系，同时保留原始总体分布作为部署环境，以研究模型对便利采样偏差的鲁棒性。该基准包含 200 个表格分类与回归数据集，生成约 15500 个偏移训练分布，导致显著性能退化。
arXiv cs.LG17 天前
★ 2
重心锚定权重搜索：无需梯度训练的模型合并新方法
论文提出 Barycentric Anchored Search，一种后处理权重空间方法，仅用两个微调检查点即可提升视觉模型在分布偏移下的鲁棒性，无需额外梯度训练或增加推理成本。方法受 Nelder-Mead 等无导数优化启发，在 CLIP ViT-B/32 上于 ImageNet-A/R/Ske…
arXiv cs.LG19 天前
★ 2
OTROPE：大模型鲁棒离线策略评估
针对大语言模型评估成本高、分布偏移严重、黑盒模型难以获取似然的问题，论文提出OTROPE框架。该方法基于最优传输在语义空间做分布校正，无需行为策略建模或密度比估计，实现双重鲁棒式评估。实验显示其性能稳定优于基线，并能让弱评估器集成逼近甚至超越强评估器。
arXiv cs.AI33 天前
★ 2
GNN鲁棒性解耦分析框架：从相变到系统性失效
该论文构建了一个可控的同质图回归基准，将标签噪声与特征分布偏移两种退化因素分离研究。在41种配置、410次运行中，GNN在约50%标签噪声比前性能相对稳定，之后急剧恶化；而极端特征分布偏移下所有模型测试MSE上升48至316倍，相关性下降73%至89%。研究表明GNN对中等标签扰动远比严重分布失配…
arXiv cs.LG34 天前
★ 2
ArtifactBench：分布偏移下的 AI 音乐检测评估
一篇 arXiv 论文提出 ArtifactBench，用于在分布偏移条件下评估 AI 音乐检测器的鲁棒性。该基准关注检测模型面对不同生成器与数据分布时的泛化能力，属于学术研究。
Hacker News – AI41 天前
★ 2
分布偏移下归纳图上的在线贝叶斯节点分类
针对演化图上节点分类需兼顾归纳泛化与不确定性校准的需求，论文在确定性GNN编码器上叠加随机末层参数，提出变分贝叶斯末层（VBLL）目标联合训练编码器与近似后验。测试时冻结编码器并施加在线拉普拉斯更新，对应带指数遗忘与KL锚定的幂先验贝叶斯模型。在五个分布偏移基准上，online GVBLL是唯一在…
arXiv cs.LG48 天前