★ 3
研究提出测试时记忆演化 TTME，科学发现任务超越测试时训练且省 82% 算力
论文提出即插即用的测试时自适应方法 TTME，通过持续更新外部记忆蒸馏经验来引导后续发现，无需更新模型权重。在相同发现框架下，TTME 在全部五个数学任务上优于测试时训练 TTT，同时减少 82.8%-84.6% 的 FLOPs 与 47.7%-58.4% 的运行时间。
arXiv cs.AI7 天前
#计算效率
共 6 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
BELT：为 LLM 推理早停学习可复用表征
论文提出 BELT 方法，将结果预测与停止控制解耦：从冻结 LLM 隐状态学习对当前与未来答案的信念，再拟合线性停止策略。由于预测目标与 token 价格无关，一次探针即可通过 CPU 重拟合支持不同精度-成本权衡。在五个分布外数学基准上，Qwen3-1.7B 减少 41%、OLMo-3-7B-T…
arXiv cs.AI10 天前
★ 2
研究质疑循环语言模型停止头实际节省算力
论文训练至 13 亿参数的循环语言模型，发现停止头（halting head）在标准停止规则下几乎无法让 token 提前退出，因为训练从未对 token 停止的那一次迭代打分。此外，批处理生成以最慢 token 为准，使平均迭代数高估节省效果。作者建议报告实际运行迭代数并给出训练前的收益上界测试。
arXiv NLP7 天前
★ 2
arXiv 提出 RCMEM：外部记忆扩展推理上下文管理
论文指出复杂推理问题需要更大上下文与记忆，而无缓存的上下文管理可能丢弃有用信息。作者提出 RCMEM，用外部记忆保存额外信息而不增加推理模型的上下文负担，在需重复计算中间步骤的问题上显著降低计算时间并提升复杂问题表现，在数学题与 GPT-2 等模型上验证。
arXiv NLP13 天前
★ 2
ACV-Gate：视觉 token 通信的选择性摊销推理
论文提出 ACV-Gate，用于生成式图像通信中在有限数据包预算下选择语义 token。它训练集合感知学生模型预测候选排序，并仅对最有信息量的候选做精确评估，从而降低编码端计算。在 CIFAR-10 上，0.20 bpp 时 PSNR 较 LocalMDL 提升 0.636 dB，每图仅需 2.1…
arXiv cs.AI35 天前
★ 2
一次性幅度剪枝与计算自适应早退的理论保证
该论文从「部分计算 vs 完整计算」的统一视角研究神经网络计算削减，涵盖静态的一次性幅度剪枝与自适应的早退机制。作者在渐近单神经元模型中证明了剪枝的集中定理并给出显式收敛速率，并提出条件感知机刻画早退的泛化误差随计算差距幂律衰减。研究进一步扩展到深度网络，刻画剪枝失真随深度的累积，并在神经网路高斯…
arXiv cs.LG49 天前
这个主题的相关资产
相关公司阿里巴巴1