★ 3
OpticalRAG：像素空间压缩实现高效检索增强生成
论文提出 OpticalRAG，将文档渲染为页面图像，用冻结视觉编码器编码并蒸馏为仅 16 个注入 token 送入大模型。借助编码器桥接检索与查询驱动蒸馏，无需昂贵跨模态训练，在 LongBench-v2 等三个基准上取得最佳压缩感知准确率，Qwen2.5-7B-Instruct 提升 5.17…
arXiv NLP13 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出 OpticalRAG，将文档渲染为页面图像，用冻结视觉编码器编码并蒸馏为仅 16 个注入 token 送入大模型。借助编码器桥接检索与查询驱动蒸馏，无需昂贵跨模态训练，在 LongBench-v2 等三个基准上取得最佳压缩感知准确率，Qwen2.5-7B-Instruct 提升 5.17…