谷歌发布 EmbeddingGemma 2 多模态嵌入模型
谷歌推出 EmbeddingGemma 2,基于 Gemma 4 架构、7.4 亿参数,将文本、图像、音频、视频与代码统一映射到同一嵌入空间,采用 Apache 2.0 许可。该模型面向端侧推理,代码检索性能较前代提升 9.92 分,可与 Gemma 4 组合构建离线多模态 RAG 管线。
共 101 篇相关资讯,按重要度与时间排序,每 3 小时更新。
谷歌推出 EmbeddingGemma 2,基于 Gemma 4 架构、7.4 亿参数,将文本、图像、音频、视频与代码统一映射到同一嵌入空间,采用 Apache 2.0 许可。该模型面向端侧推理,代码检索性能较前代提升 9.92 分,可与 Gemma 4 组合构建离线多模态 RAG 管线。
ISO-RAG将知识图谱投影到双曲空间,预计算等周轮廓以剪枝虚假边,限制搜索空间。在多跳问答基准上,检索召回和精确匹配分别提升10%和4.3%,同时消除全局遍历的延迟瓶颈。
论文指出检索增强生成(RAG)防御评估过度依赖攻击成功率(ASR),会掩盖防御自身引入的失败。作者提出 Aligned RAG Evaluation 匹配查询协议,联合考察干净与投毒响应,在 HotpotQA 与 Natural Questions 上发现现有防御虽能阻止部分攻击,却会引入意外的目…
论文基于 SciFact 的 200 道题对比「1 毒 6 健康」与「6 毒 1 健康」两种上下文,发现 Gemma-3-12b 的投毒检出率从 25% 降至 10%。38 道结果不同的题中 34 道由检出转为未检出,呈现类似从众偏差的效应。
论文复跑 MTRAG 与 RETECO 官方基线,发现用「无金标文档即不可答」的捷径评估拒答会严重失真:检索器越强,无金标上下文实际含答案的比例从 28% 升至 72%,捷径精度从 .68 降至 .10。作者建议按内容标注而非金标存在与否来评分拒答。
论文提出 DeFT-RAG 检索增强框架,每次从原问题与已答问答对生成一个自包含子问题,免去规划、依赖追踪与重写。框架将剩余工作移出 LLM,用规则更新问答表并由微调轻量决策模型做判断,同时缓存问答对复用同义子问题答案。在 MuSiQue、2WikiMultiHopQA 与 HotpotQA 上,…
论文研究用单次前向输出概率的决策模型对 RAG 检索源冲突类型分类,在 CONFLICTS 基准上 11 个决策模型准确率 50%–67%,其中 10 个达到或超过 Gemini 2.5 Flash 的 61.3%,成本低 4–39 倍、延迟低 2.6–6 倍。将低置信查询级联给 Gemini 3…
论文提出 RouteDRAG,通过统一文档索引、自适应路径路由、动态智能体执行与序列策略学习,判断何时需要智能体式检索、何时走更短路径。在两个基准上平均准确率提升 3.47 个百分点,仅将 79.3% 查询交给智能体执行,且调用次数更少。
论文指出检索增强模型在上下文与自身知识冲突时,现有方法都用设计时固定的规则裁决,而任何固定规则在某些部署下都会自信地出错。作者提出需同时保留两路来源证据与「上下文正确率」先验,并在 GRACE 基准上构建对应系统。在 Qwen3.5-35B-A3B 与 Llama-3.1-8B 上总分 45.3 …
研究者提出 SOPO(苏格拉底引导的策略优化),一种多轮强化学习框架,用于片段级幻觉检测。它通过教师模型提供间接提示引导推理轨迹,缓解难例奖励稀疏问题,并用轮次优势缩放抑制冗长。在 RAGTruth 上,4B 版本超越 GPT-5 等专有模型与标准 RL 基线,代码与 1.7B、4B 模型已开源。
论文基于纽约 Pilsudski 研究所的生产级 RAG 系统案例,发现工具输出格式化器遗漏搜索限制、结果上限或标识符命名空间等信息,会误导智能体与验证器。修复措辞后,四类失败中三类的不受支持断言显著下降,某测试中验证器从 90/90 次接受错误答案变为 90/90 次拒绝。审计提示词还在 Ope…
一篇 arXiv 论文提出 Raw-RAG 基线,仅用稠密检索与重排从原始对话历史中取证据,在 LoCoMo、LongMemEval、MEME、MemoryAgentBench 四个基准的 7 个模型设置中有 6 个排名第一,比最强智能体记忆系统高 0.13-5.53 分。分析显示原始历史检索对必…
论文比较 11 种长文档检索配置,涵盖词法/稠密检索、混合重排与全文扫描,使用 396 道 QASPER 题与 8 本教材的 80 道题评测。结果显示 Hybrid + Jev 在书籍上证据覆盖率最高达 94.1%,但覆盖率更高并不必然带来更好答案;全文扫描延迟显著更高,可复用稠密检索的 API …
论文针对检索增强生成(RAG)中的模糊查询澄清问题,发布约 3900 条样本的 ClariEdge 数据集,包含需澄清的模糊查询与无需澄清的负例。实验显示轻量微调 LoRA 达到 96.6% 分类准确率,在分类与澄清生成质量上均超过多个大模型的提示基线。研究强调难负例是区分真模糊与伪模糊查询的关键…
一项 arXiv 论文在 LongMemEval-S 与 BEAM-100K 上对比六种先进显式记忆系统与原始历史 RAG。结果显示显式记忆仅在特定问题类型和紧上下文预算下有局部收益,构建成本却可达每段对话数小时。作者指出检索仍是主要瓶颈,改进信息访问至少与构建更丰富记忆同等重要。
论文在 HotpotQA 与 SQuAD 上测试四个指令微调模型,发现不确定性只有在检索证据能约束答案时才能有效衡量 RAG 幻觉风险。困惑度在针对性无支撑编辑上达到 0.81-0.91 AUROC,检索深度变化会改变该分数的含义,结合语义漂移可改善校准。
arXiv 论文提出 AuditKIT,一个源码可得的评测库,把基准准确率、裁判评估、运行时性能、工具调用行为与检索质量统一到同一结果表示中。它支持方向感知的指标契约、配置指纹与可扩展后端,并对智能体提供轮次感知的工具调用匹配与并行/串行执行区分。七个案例研究显示,答案抽取方式、运行时行为与指标选…
论文测试 14 个商用 LLM 部署,发现同一请求重复返回结果均存在差异,12 个部署连标签都会变化。作者构建从 OCR、分块、嵌入、索引、检索到推理全流程确定性的流水线,在血糖仪与输液泵文档上实现逐字节一致输出。
研究指出多跳 RAG 中大量所谓检索失败实为搜索漂移——搜索不再跟踪未解答的子问题。作者提出免训练的 ExecutionRAG 需求登记机制,在 MuSiQue 上把缺失证据的错误答案从 382 降至 234。但证据恢复并未成比例降低总错误,瓶颈已从引导搜索转向验证证据充分性。
论文提出 TRACER,一种通道感知的对抗训练方法,结合答案锚定、证据门控奖励与 ATRC 对齐机制。在 GSM8K 与 Qwen2.5-3B-Instruct 上,将 RAG 框架下的攻击成功率从 65.5% 降至 6.1%,同时保持 78-82% 的干净准确率。
研究将 RAG 中的非前缀 KV 缓存复用形式化为行为保持问题,提出 SAFE-KV,通过从选定起始文档重新编码因果后缀来修复组合缓存。在 Qwen2.5-7B-Instruct 上,前缀条件组合仅保留 47.2%/37.8% 的完整预填充答案,SAFE-KV 可恢复至 99.8%/98.4%。
研究显示,在 PersonaMem-v2 基准上,通过句子级检索构建的相关性过滤上下文仅用 5% 文本即可匹配全历史准确率,将输入缩减约 20 倍。检索方法只需小型嵌入模型,而 LLM 摘要需读取全部历史,表明更好的上下文选择有望超越全历史。
研究推出首个面向长(整本书)历史文档理解的基准 LongHisDoc,含 101 份 PDF、1012 组专家标注问答,平均每份 85.1 页、42776 token。评估显示最强 LVLM 与 LLM 准确率仅 62.9% 与 69.9%,并评估了多模态检索器与端到端 RAG 性能。
论文报告一个客服场景部署案例:用自然语言指令、轻量工具与 LLM 生成的「维基式」导航索引层构成便携技能,替代复杂分块、索引与重排序的智能体 RAG 流水线。该方法 1-2 人日即可实现,流程等价度达 99.2%,但每单耗时约 90 秒,慢于生产助手。
针对LLM推理中KV缓存复用通常局限于精确前缀的问题,研究者发布基于vLLM的开源系统KV-Repurpose,支持按段复用KV缓存。在Zipfian式RAG负载下,30GB缓存容量时其token级命中率达63.9%,远超前缀缓存的3.3%,显著降低首token延迟。实验同时揭示跨文档推理场景下朴…
研究者提出 RAG-Stress 诊断协议,通过固定问题与参考答案、篡改一条断言来诱导错误答案,测量模型在检索增强生成中的「误导率」。在 TriviaQA-RC、HotpotQA、SearchQA 及中英文 MedQA 上评测 15 个系统(API 模型、开源模型、强化学习搜索智能体)发现:优先采…
论文提出 PARCEL 基准,用于检验法律主张是否被所引权威来源支持。基于纽约州上诉法院近期判决构建 3,396 条括注式主张,标注为支持、反驳或未找到,并作为三分类自然语言推理任务评测多个前沿 LLM。最强模型准确率达 0.97,但仍会把无支撑主张误判为有支撑,且伪造但看似合理的引证导致性能下降…
论文提出 RIT-RAG,将内容检索与结构导航结合:离线为每篇文档构建目录树,查询时检索大量文本块并诱导出可管理的子树,由 LLM 智能体选择性阅读节点。在金融、科学、客服基准上取得最高准确率,并在 284 万网页的 EntQABench 上较最强基线提升 6.8 至 11.4 分。
论文指出当前 KV 缓存压缩方法只实现按内容关联查找,忽略按位置顺序遍历,导致逐字复制在压缩中途断裂的「顺序遗忘」问题。作者提出免训练即插即用框架 KVFetch,为任意基于评分的压缩器开辟时序召回通道。在 RULER-16K 上逐字复制从 0.8 恢复至 78.4,13 项任务平均提升 8.4。
论文对开源权重模型 Laya 与托管模型 Jev 两类 System-1 决策模型进行配对评估,覆盖 11 个智能体决策点、7283 个基础案例及 6640 个鲁棒性变体。Jev 在 9 个决策点上显著更准,而两者在零样本模型路由上均未超过随机水平。研究还审计了自身流程,发现三处分析错误与一处设计…