#分布外泛化

共 5 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 3

新研究:用指令特权改进在线策略上下文蒸馏

论文研究在策略上下文蒸馏(OPCD),发现以实例级金标答案或示范作为特权信息反而会损害训练表现,尤其分布外场景。作者改为设计针对学生常见错误的通用指令作为特权,在自动形式化任务中匹配格式指令的分布外准确率大幅超越金标。在 ProverQA、ProofWriter、ProntoQA 与 Qwen3-…

arXiv cs.AI34 天前
★ 3

MCR² 在分布外泛化上的理论局限

论文指出最大编码率降低(MCR²)目标在分布偏移下可能完全失效:仅依赖不稳定环境特征的表示可达到全局编码最优,却在相关性反转后预测彻底失败。即使引入不变风险最小化(IRM)与风险外推(REx)的不变性原则也无法消除该问题,说明共享编码最优性并不保证稳定预测。

arXiv cs.LG42 天前
★ 2

arXiv 论文:扰动预测模型能否学到基因互作?

一篇 arXiv 论文研究高通量扰动筛选中的基因组合外推问题:当两个基因各自在训练中出现、但其组合未出现时,标准 OOD 方法往往失效。作者提出「加性分歧」(AD)指标,用模型预测与单基因效应相加基线的差值衡量额外互作效应,发现偏离加性基线越大的预测误差越大,且 AD 在多个数据集和模型上比常规置…

arXiv cs.LG18 天前
★ 2

Prithvi 作物分类基础模型跨三大洲可靠性评估

研究评估地理空间基础模型 Prithvi-EO-2.0 在三大洲 12 国 37 个事件上的分布外表现,平均总体精度从美国 0.65 降至欧洲 0.40。精度崩塌主要源于观测窗口与当地作物物候错配,而非空间迁移。合并类别与压缩观测窗口可在不重训情况下恢复精度。

arXiv cs.LG25 天前
★ 2

Baszta:波兰语多标签安全分类器微调

研究基于 allegro/herbert-base-cased 微调出波兰语多标签内容安全分类器,覆盖仇恨、粗俗、色情、犯罪、自残五类,采用 Focal + R-Drop 目标,并与 Bielik Guard 在 Gadzi Język 分布外基准上对比。作者强调该基准 97% 为犯罪正例,微 F…

arXiv cs.AI38 天前

这个主题的相关资产

相关标签

分布外泛化 最新资讯与动态(5 篇) - 智讯 AI News