★ 3
arXiv 研究自然语言自编码器 NLA 能否泛化到微调模型
论文系统检验自然语言自编码器（NLA）在训练设定之外的泛化能力，围绕组合结构、对微调版本的迁移、模型差异比对中的目标恢复与专门化四个问题展开。在三个模型家族共四个模型上，四项问题基本得到肯定答案，NLA 可无需重训复用于轻量微调模型，并能从激活差异中恢复被隐藏的秘密词。
arXiv NLP10 天前
#自编码器
共 4 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
LatentLieODE：从时序观测中发现李对称与首次积分
论文提出 LatentLieODE，一种基于神经 ODE 的方法，可从视频等时序观测中学习动力系统的线性李对称与首次积分。在谐振子、单双摆、Lotka-Volterra、像素摆、球面测地线六个基准系统上，发现的守恒量与真值相关系数不低于 0.978，并在球面上恢复非阿贝尔 so(3) 对称。该工作…
arXiv cs.LG5 天前
★ 2
有损压缩文本自编码器研究
论文探索文本压缩潜在表示学习，提出在时间轴上进行残差降采样与升采样的自编码器架构，并配以残差低维离散瓶颈。在网页文本数据上压缩表示达到 2.24 比特/字节，与无损压缩算法相当，同时保持良好重建与下游问答、语义相似度任务表现。
arXiv NLP24 天前
★ 1
美国西海岸航空三维排放与社会成本估算
研究用物理信息自编码器重建美国西海岸枢纽机场航班轨迹，构建三维排放地图并估算区域环境与机场周边健康影响。模型在5%至50%缺失率下均优于TCN-AE与三次样条插值。结果显示NOx虽质量占比不足0.4%的CO2，却贡献了99.7%的货币化空气质量与健康成本。
arXiv cs.LG34 天前