★ 3
研究：LLM 数学迁移更依赖推理方法而非主题
论文比较按主题与按推理方法选择数学训练数据对微调迁移的影响。在两组 2×2 平衡设计中，同方法（SA）源在全部 40 个模型-目标对比中均优于同主题（ST）源，模型级优势达 8.2 至 16.2 个百分点。结果显示推理方法是比主题更有效的数学迁移匹配准则。
arXiv cs.AI31 天前
#迁移学习
共 27 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
超越嵌入迁移：Grokking 迁移中的组件角色与稳定性
论文研究模运算上的跨算子热启动迁移，区分早期加速效果与后续优化稳定性。在 108 次运行的实验中，迁移内部注意力/MLP 权重加 token 嵌入与读出可提升早期准确率 5.46 个百分点并缩短确认延迟 558 步。研究发现冻结迁移的表征载体几乎消除离线复发，在线验证触发门控大幅降低最大回撤，揭示…
arXiv cs.LG46 天前
★ 3
自动构建 Harness：代码自博弈蒸馏文本搜索策略
论文研究智能体能否通过可执行练习学习数值搜索策略，并将其以文本形式迁移。开发阶段智能体反复编写和评估优化器程序，随后蒸馏为 197 词的 Harness A。在独立 N=30 研究中，Harness A 将 Gemini Flash 遗憾降低 48%，并迁移至 Claude Sonnet 降低 4…
arXiv cs.LG53 天前
★ 2
CASL 选择性迁移学习用于荷兰地下水异常预测
论文研究荷兰多井地下水异常预测中的上下文感知选择性迁移学习（CASL），通过校准训练的凸混合组合无迁移与固定迁移模型。实验覆盖 457 口井，固定迁移会损害 18%–52% 的井，CASL 相比无迁移降低 RMSE 并部分挽救受损井。结果显示精度与风险之间存在权衡，而非单一方案占优。
arXiv cs.LG3 天前
★ 2
研究者发布冰岛语 ModernBERT 编码器，参数覆盖 1200 万至 10 亿
一篇 arXiv 论文基于 ModernBERT 架构训练了冰岛语编码器，参数规模从 1200 万到 10 亿，使用 90 亿 token 开放数据。其中 10 亿参数版本据称是首个该规模的单语冰岛语编码器，在全部 11 项任务上显著优于 IceBERT。研究还系统验证了从英语 Ettin 编码器…
arXiv NLP5 天前
★ 2
EVA-Flow：统一环境感知分子构象生成框架发布
论文提出 EVA-Flow，一个统一的环境感知分子构象生成框架，学习共享化学结构并通过环境条件生成建模进行适配。在真空、蛋白-配体对接、溶剂化与晶体堆积四类场景中，预训练加跨环境微调在三个数据稀缺场景收益最大。分析显示同一分子可在不同环境下生成不同构象，对药物发现与材料设计有潜在价值。
arXiv cs.LG5 天前
★ 2
研究用分位数回归从追踪数据估计球员到达时间
论文把体育中的「到达时间」建模为条件分位数回归问题，估计球员移动时间的下包络，而非依赖位置密度或闭式物理模型。作者用 2022 世界杯全部 64 场光学追踪数据训练轻量 MLP，在多项指标上稳定优于六个物理基线。研究还在篮球与单场 NFL 数据上检验跨项目迁移性。
arXiv cs.AI5 天前
★ 2
arXiv 论文提出跨域风格嵌入检测多作者写作
该论文研究用大语言模型进行多作者写作风格变化检测，发现直接使用现成 LLM 或仅在目标域微调效果不佳。作者提出跨域迁移学习，微调 Mistral-7B 嵌入模型并与 PAN-25 竞赛 SOTA 的 DeBERTa 对比，发现两者在不同用户生成文本场景各有优势，融合两种嵌入可提升检测效果。
arXiv NLP13 天前
★ 2
历史特征残差适配用于序列筛选
论文研究采集时残差适配：基于固定历史特征构建小型排序校正并锚定于反馈揭示前记录的基分。在 15 个来源的 20 个官方测试筛选中，命中恢复率从 22.58% 提升至 28.61%，超过所有六个预设比较器，并在独立非线性基模型上验证了迁移效果。
arXiv cs.LG18 天前
★ 2
PAT：人格驱动增强与迁移学习框架用于社交媒体抑郁检测
研究者提出 PAT 框架，通过人格理论驱动的 LLM 数据增强与细粒度对比学习优化帖子级编码器，解决症状语义筛选噪声与用户级监督信号粗糙两大问题。第二阶段将编码器参数迁移至用户级任务，实现多粒度可解释性，实验显著优于现有方法。
arXiv NLP19 天前
★ 2
PINN 结合迁移学习反演空间变化传热系数
研究探讨物理信息神经网络（PINN）估计射流冲击冷却中空间变化对流换热系数的广义边界表示与迁移学习。分段线性与神经网络边界估计器在多个雷诺数下评估，迁移学习可将目标训练时间减少 50.59%-84.94%。
arXiv cs.LG19 天前
★ 2
GlucoPRISM：跨队列血糖迁移的协议监督预训练
论文提出 GlucoPRISM，通过「响应契约」监督 GlucoFM 骨干，将连续血糖监测表征拆分为 Trait、State、Sensor 三个可解释波段，部署时用固定投影剔除有害迁移的传感器成分。在十二个跨队列方向上，平均迁移 AUROC 从 68.75 提升至 73.57。
arXiv cs.LG21 天前
★ 2
神经 PDE 求解器学习状态可迁移性研究
论文提出复用契约，通过配对状态比较、匹配目标信息与预算及成本核算，分离求解精度、学习贡献与数值效用。文献审计提取 12 篇论文的 18 条协议记录，发现固定预测器的收益会随校正算法反转，基于功的选择在留出任务上节省 2.50-3.33 次 CG 迭代，强调复用需要匹配状态比较与下游计算证据。
arXiv cs.LG24 天前
★ 2
跨材料支持迁移预测磁芯损耗
该论文针对电力磁材料在表征与部署波形不匹配下的磁芯损耗预测难题，指出瓶颈并非类别不平衡，而是协变量偏移下的信息缺失。作者提出 MIST 方法，通过特征级线性调制（FiLM）引入材料身份，在五种材料上联合训练一个仅 2784 参数的预测器。在 MagNet 挑战赛材料 D 上，MIST 将 p95 …
arXiv cs.LG34 天前
★ 2
技能何时有用：任务条件化增益预测
论文发现智能体技能常无收益甚至损害性能并增加token成本，提出SkillDelta框架，从同一智能体有无技能配对的执行历史预测任务条件化技能增益。局部预测器无需重训智能体即可将历史增益迁移到新任务，并在显式迁移假设下将支持覆盖、表示失配与执行噪声关联到预测误差与决策后悔。在五个基准三个目标智能体…
arXiv cs.AI34 天前
★ 2
PixelJev：原生图像视觉决策模型研究
论文提出 PixelJev，一种原生图像决策接口，用小型开源多模态模型将图像、任务指令与运行时候选集映射为结构化选择及候选条件概率。在七项基准评测中，64 样本源域适配将 Pets 准确率从 60.13% 提升至 92.40%，并可迁移到新纹理标签与 A-OKVQA。研究指出准确率提升并不保证目标…
arXiv cs.AI38 天前
★ 2
多任务模型中的跨任务关系学习
论文提出通过定向成对关系近似任务标签联合分布，从而学习多任务模型中的跨任务关系，避免建模完整联合空间的高复杂度。该方法在 YouTube 生产推荐系统的通知、首页与 Watch Next 三个场景中验证，准确率与用户满意度指标均有提升。作者还给出可推广的工作流模板。
arXiv cs.AI38 天前
★ 2
限电数据稀缺下光伏预测的迁移学习与共形分位回归
论文提出结合迁移学习与共形分位回归（CQR）的框架，改善限电导致历史观测稀缺地区的光伏功率预测与不确定性估计。以澳大利亚 Alice Springs 数据预训练时序模型并迁移至模拟孟加拉数据，仅一个月目标数据时 RMSE 降低最多 23.7%。迁移学习加 CQR 在三个月数据下达到 94.3% 经…
arXiv cs.LG39 天前
★ 2
图域适应不止于表示学习
研究指出图域适应（GDA）现有方法依赖单一图传播路径进行目标预测，可能未充分利用目标域中的预测证据。作者提出 EviGDA 框架，在图感知专家之外补充一个不依赖图传播与目标对齐的无图局部专家，两者独立优化、仅在推理时以任务级常数概率混合。在 10 个数据集、16 个迁移任务上，EviGDA 超越现…
arXiv cs.LG40 天前
★ 2
联盟胜于孤立：统一异构联盟数据集提升分类器性能
论文定义「联盟数据集」：对象类型相同但底层对象不相交、标签一致、特征空间高度异构仅有少量共享特征，导致单一分类器无法联合训练或交叉测试。作者提出合并特征空间并用矩阵补全构建统一数据集，实验表明在统一表示上训练的分类器始终优于分别在各数据集上训练的版本，为跨数据集知识迁移提供简便途径。
arXiv cs.LG45 天前
★ 2
程序化预训练提升分子性质预测
论文提出三阶段训练流程：程序化预训练、SMILES分子预训练与下游微调，探索在接触分子数据前从抽象程序化数据中学习归纳偏置。在亲脂性任务上测试误差降低4.8%，效果在数据稀缺时最强，且可迁移信息主要集中于注意力层。
arXiv cs.LG46 天前
★ 2
基于模型强化学习实现液滴自主导航
研究展示在重力驱动迷宫平台上，使用基于模型的强化学习实现液滴在复杂几何结构中的自主导航。离线训练的策略无需仿真或解析液滴模型，即可从有限物理交互数据中发现有效倾斜策略，并在部分可观测条件下可靠通过直线、直角与弧形路径。简单几何上训练的策略可零样本迁移至复杂路径。
arXiv cs.LG47 天前
★ 2
部分传感器重叠下跨机床 CNC 迁移的 JEPA 研究
论文研究工业世界模型在跨机床部署时的迁移问题，提出模式自适应动作条件 JEPA（SAAC-JEPA），源机床有 17 个传感器通道而目标仅共享 10 个。实验显示 JEPA 预训练在干净源域预测上并无明显增益，锁定模型在目标域零样本 RMSE 为 0.546，优于持续性基线但不及 RevIN 增强…
arXiv cs.LG47 天前
★ 2
语言模型细胞间潜在通信的负迁移研究
该研究考察独立训练的语言模型社会是否共享同一套潜在数据包语言，以及继承的接口状态对后续学习是帮助还是损害。对六个受限社会的30个有序配对进行因果互操作性审计发现，语义相似的接口并不构成统一语言，跨初始化方向全部对齐失败。全局训练的通信接口还构成严重的负迁移先验，仅重初始化读写模块即可将深度三准确率…
arXiv cs.AI51 天前
★ 2
RobustSGPO：面向智能体框架演化的搜索空间控制
论文针对语义梯度提示优化（SGPO）在编辑范围与操作选择上缺乏明确规则的问题，提出 RobustSGPO，明确请求的编辑、构建并检查补丁，并从当前方案或保留快照继续搜索。在 AgentX 头脑风暴工作流上以120个任务、95次运行、7350次候选尝试评估权限调度、累积控制与任务族迁移。结果显示周期…
arXiv cs.AI53 天前
★ 1
FlowGDA 框架发布：用流匹配实现渐进域适应
研究者提出 FlowGDA，将渐进域适应建模为表示空间中统计流形上的连续传输。该方法学习时间相关速度场生成平滑域轨迹，采用无模拟回归目标替代对抗训练，并通过源锚定传输与语义一致性损失防止语义漂移。实验显示其优于现有最先进方法。
arXiv cs.LG10 天前
★ 1
VAE 潜空间适配校正压气机叶尖间隙流
研究提出基于变分自编码器与潜空间适配的非侵入式 CFD 校正方法，用于压气机叶栅开式叶尖间隙流预测。VAE 先学习总压损失场的低维表示，再冻结并用仅 12 组实验工况训练低秩适配器。交叉验证中平均绝对误差从 0.1335 降至 0.0473，无需修改 RANS 求解器。
arXiv cs.LG38 天前