★ 3
研究提出蛋白质潜在语言实现自回归生成
研究者提出两种可学习的潜在蛋白质语言:PLL 将序列映射到基于冻结 ESM-2 的 4096 状态上下文词表,SLL 则适配 GCP-VQVAE Lite 并保留骨架坐标解码。在各自 token 上预训练自回归模型得到 PLLM 与 SLLM,序列生成中低熵样本比例下降 54%,结构预测困惑度降低…
arXiv cs.LG27 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究者提出两种可学习的潜在蛋白质语言:PLL 将序列映射到基于冻结 ESM-2 的 4096 状态上下文词表,SLL 则适配 GCP-VQVAE Lite 并保留骨架坐标解码。在各自 token 上预训练自回归模型得到 PLLM 与 SLLM,序列生成中低熵样本比例下降 54%,结构预测困惑度降低…
该 arXiv 论文指出,蛋白质分类器在随机划分训练集和测试集时会产生系统发育泄漏,导致模型高估其在分布外数据上的表现,这在按离子通道靶点分类毒液化合物时尤为明显。作者将跨物种预测建模为结构化分布偏移,融合 ESM-2 序列嵌入与图注意力网络,并系统比较五种结构归纳偏置。在留一分类群评估下,持续同…