★ 2
arXiv 论文:PairIT 自回归 Transformer 低数据分子优化
论文提出 PairIT,一种基于 SMILES 序列的自回归 Transformer 训练框架,通过学习结构相似分子对实现种子分子生成与多属性优化。在 MoleculeNet 与 TDC 数据集上,仅 68M 参数的标准模型即可在低数据场景下实现稳健的分子优化。
arXiv cs.LG18 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 PairIT,一种基于 SMILES 序列的自回归 Transformer 训练框架,通过学习结构相似分子对实现种子分子生成与多属性优化。在 MoleculeNet 与 TDC 数据集上,仅 68M 参数的标准模型即可在低数据场景下实现稳健的分子优化。
论文研究LLM能否通过从新闻中提取迁移相关信号并注入加权Lasso框架来改进迁移流预测。采用分层LLM推理流水线分类推拉信号,在墨西哥-美国、乌克兰-波兰、叙利亚-土耳其等走廊上评估。结果显示性能因走廊与策略而异,无单一正则化方法始终占优,但特定条件下上下文特征与LLM引导正则化可提升预测。
论文研究不同解码器架构对物理循环神经网络潜在空间可解释性的影响,提出一种权重归一化约束作为正则化手段,支持低数据下的稳健训练。研究还表明,采用伴随编码器-解码器结构与正标量贡献可自然满足热力学一致性,保证跨尺度能量一致与非负耗散,并进一步降低训练需求。