arXiv 论文:Lapras 面向时间序列语言模型的潜在推理
论文提出 Lapras 后训练框架,为时间序列语言模型赋予潜在推理能力,模型在时间序列-语言联合空间中进行连续思维推理,仅对最终答案输出文本。在五个时间序列问答基准上,Lapras 平均 F1 较显式思维链提升最多 10.79%,同时生成 token 减少 23.9 倍。
共 6 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 Lapras 后训练框架,为时间序列语言模型赋予潜在推理能力,模型在时间序列-语言联合空间中进行连续思维推理,仅对最终答案输出文本。在五个时间序列问答基准上,Lapras 平均 F1 较显式思维链提升最多 10.79%,同时生成 token 减少 23.9 倍。
研究者提出 LatentGRM,一种基于语义分块、压缩与重建的潜在空间评估框架,用于生成式奖励建模。它通过连续潜在轨迹完成成对判断,无需逐 token 生成文本评估,并可用独立解释器离线还原评估文本。在 4B 与 8B 规模下,其偏好准确率与显式 SFT 评判模型相当,8B 版本将评估轨迹压缩 8…
论文指出 LLM 在连续空间推理时,仅用最终答案交叉熵监督会导致思维坍缩、保留无关信息等四类失败。作者提出 REST 训练目标,将有效思维表征的因果性、最小性、可分离性与稳定性转化为可微损失叠加到交叉熵上。在数学、科学、医学、代码生成等 7 个基准上,REST 相比纯交叉熵训练最高提升 7.5 个…
潜在推理用连续空间嵌入替代冗长的显式思维链token以提升效率,但缺乏对潜在嵌入的直接过程监督,易导致表示坍缩与信息分布不均。论文提出原型中介过程监督(PMPS),引入可学习推理原型作为语义锚点,通过原型分配实现不等长表示间的多对多软对齐,并配合渐进序列对齐模块。实验显示输出token长度压缩至显…
论文提出 Competitive Token Selection(CoTS),一种免训练框架,将潜在推理干预从二元模式选择改为 token 级连续分配。CoTS 利用两个最可能候选之间的概率竞争动态平衡离散承诺与软探索。在六个推理基准上,CoTS 持续优于标准 CoT 与当前免训练潜在推理方法。
研究者提出 INTACT,用小型外部编码器在冻结的骨干模型上诱导潜在推理,将隐藏状态映射为连续软 token 前缀。在四个 1B-8B 冻结骨干上,GSM8K 与域外准确率均提升,Llama-3.2-3B 上 GSM8K 从 75.8% 升至 79.3%,端到端延迟降低 19%。