#多任务学习

共 13 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 3

AI 代理模型加速加拿大野火风险制图,提速 806 倍

研究团队提出 AI 代理模型框架,用多任务深度学习模拟 BurnP3+ 野火仿真输出,替代耗时的蒙特卡洛模拟。在代表性区域实现端到端 CPU 加速 806 倍,主机内存占用仅为原框架的 13%。模型保持下游灾害分级一致,并对专家设定的反事实干预给出物理合理响应。

arXiv cs.AI10 天前
★ 3

Light Heads 框架加速推荐系统多任务实验

论文提出轻量排序头(Light Heads)框架,面向持续在线学习环境,可向现有多任务排序模型动态注入新任务,免去骨干模型冷启动与重训。借助stop-gradient与无状态每日训练严格隔离新任务,避免任务冲突,并通过集中配置同时挂载到多个模型。该方案已在YouTube规模部署,将多任务实验迭代周…

arXiv cs.LG40 天前
★ 3

MaP:掩码轨迹预测的GUI智能体导航

论文提出MaP统一框架,通过将多轮GUI交互建模为轨迹并以组件掩码预测定义训练目标,把优化从任务特定边缘分布转为一致目标,缓解梯度冲突。同时设计角色感知适配器学习模块处理数据异质性,在五个GUI导航基准上显著优于直接混合训练。

arXiv cs.AI40 天前
★ 2

CONCUR:多任务多奖励强化学习的一致性辅助奖励方法

论文指出多任务强化学习中,组相对优势估计器会让被主奖励门控的辅助奖励(如长度奖励)反转主奖励排序。作者提出 CONCUR 优势估计器,用满足单调性与天花板等分条件的分数替换辅助奖励标准化分数。在数学、代码、指令遵循与写作任务上,两个变体平均表现均优于所有基线。

arXiv NLP5 天前
★ 2

研究:稀疏正则促使多任务网络自发形成功能模块化

论文发现稀疏正则化可在无预设模块边界的情况下,促使多任务网络形成任务选择性的紧凑子网络(功能 token)。这类专业化更倾向出现在深层,提取出的功能 token 可重组重建复合计算而无需重训。

arXiv cs.LG7 天前
★ 2

信息瓶颈分析:速率约束下的多任务最优表示

论文将「何种预训练目标在信息预算下产生最佳下游表示」形式化为多任务信息瓶颈问题,在高斯输入与任务下刻画最优表示。结果显示低速率下弱任务对齐的专家模型可胜过重建型通才模型,但高速率下反转;CelebA 与 dSprites 实验表明压缩会改变最佳预训练目标。

arXiv cs.LG10 天前
★ 2

GRAM:基于子空间对齐的分组秩感知模型合并方法

论文指出统一合并不同任务模型会因任务子空间错位产生「子空间干扰」,并证明合并模型的投影误差由任务与共享子空间的主角度对齐决定。据此提出 GRAM,按主角度几何对任务分组后在组内做 SVD 合并,仅需微调权重。在 GLUE、8 任务 CLIP 视觉与医疗指令微调上均优于既有合并方法。

arXiv cs.AI11 天前
★ 2

BioBigBird:面向生物医学长文本的稀疏注意力模型

研究者提出 BioBigBird,一个在生物医学文献与临床数据上预训练的双向语言模型,采用稀疏注意力机制处理最长 4096 令牌序列。通过多任务学习联合优化命名实体识别与关系抽取,在 BLURB 基准上取得与最先进模型相当的结果,模型已在 Hugging Face 公开。

arXiv NLP24 天前
★ 2

GradSAT:梯度归一化加速浮点可满足性求解

论文提出 GradSAT,将基于优化的 SMT 求解与多任务学习结合,把每个 SMT 子句视为独立任务,通过动态梯度归一化(GradNorm)平衡各子句梯度,缓解梯度支配问题。系统采用 GPU 加速 PyTorch 后端加位精确局部搜索的两阶段流水线。该方法提升了连续搜索稳定性,为复杂约束求解提供…

arXiv cs.AI25 天前
★ 2

多任务模型中的跨任务关系学习

论文提出通过定向成对关系近似任务标签联合分布,从而学习多任务模型中的跨任务关系,避免建模完整联合空间的高复杂度。该方法在 YouTube 生产推荐系统的通知、首页与 Watch Next 三个场景中验证,准确率与用户满意度指标均有提升。作者还给出可推广的工作流模板。

arXiv cs.AI38 天前
★ 2

稀缺数据下多任务ProtBERT识别无序蛋白

论文提出MT-ProtBERT,面向低数据场景的ProtBERT多任务扩展,整合动态窗口掩码、多尺度一维卷积分类器与生化先验辅助目标。在磷酸化位点预测与蛋白紧致度预测两个小数据集任务上,MT-ProtBERT全面超越基于RNN的IDP专用模型PARROT。结果表明自监督与生化任务结合可提升数据稀缺…

arXiv cs.LG40 天前
★ 2

DPTM-DT:双预训练 Transformer 多任务药物靶点预测

论文提出 DPTM-DT 框架,融合 GROVER 分子图嵌入、ESM 蛋白语言模型嵌入与 CTD 理化描述符,并通过双向跨模态注意力交换药物-靶点信息。共享对表示同时用于亲和力回归、高亲和力二分类与六级亲和力分类,在 Davis 和 KIBA 数据集上均取得最优综合表现。消融表明双靶点表示、门控…

arXiv cs.LG41 天前
★ 2

多任务学习在预测性流程监控中的潜力研究

该论文首次系统性地研究多任务学习(MTL)在预测性流程监控(PPM)中的应用,对比单任务学习(STL)在多种任务组合、网络架构与优化方法下的表现。结果显示MTL在下一活动预测上显著提升,并能天然缓解类别不平衡问题,但任务平衡在低容量模型下尤为关键。

arXiv cs.LG48 天前

这个主题的相关资产

相关标签

多任务学习 最新资讯与动态(13 篇) - 智讯 AI News