★ 3
DeFT-RAG 框架逐步分解多跳问题并复用答案提升检索增强准确率
论文提出 DeFT-RAG 检索增强框架，每次从原问题与已答问答对生成一个自包含子问题，免去规划、依赖追踪与重写。框架将剩余工作移出 LLM，用规则更新问答表并由微调轻量决策模型做判断，同时缓存问答对复用同义子问题答案。在 MuSiQue、2WikiMultiHopQA 与 HotpotQA 上，…
arXiv NLP3 天前
#缓存复用
共 4 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
SAFE-KV：RAG 非前缀 KV 缓存复用的因果后缀修复
研究将 RAG 中的非前缀 KV 缓存复用形式化为行为保持问题，提出 SAFE-KV，通过从选定起始文档重新编码因果后缀来修复组合缓存。在 Qwen2.5-7B-Instruct 上，前缀条件组合仅保留 47.2%/37.8% 的完整预填充答案，SAFE-KV 可恢复至 99.8%/98.4%。
arXiv NLP19 天前
★ 3
CacheScope：免训练扩散加速的精确计算分配
论文提出 CacheScope，通过归一化探针输出变化与输入位移之比，在线识别高风险缓存复用步骤并选择性回退到完整去噪计算。在 FLUX.1-dev、Wan2.1-T2V-1.3B 与 Open-Sora 1.2 上实现最高 3.57 倍加速，中位 LPIPS 最多降低 70.1%。
arXiv cs.LG21 天前
★ 2
TraceQuery：扩散语言模型轨迹引导稀疏解码提速
论文提出 TraceQuery，一种面向扩散大语言模型（dLLM）的轻量稀疏解码框架。它用完整去噪轨迹监督，预测少量与未来轨迹相关的位置，只对这些候选做新计算，再由主干模型选择提交。相比现有缓存方法，它在显著减少重复计算的同时保持高准确率，并可跨任务与模型族泛化。
arXiv NLP6 天前
这个主题的相关资产
相关公司阿里巴巴1