★ 4
ISO-RAG:等周噪声控制的检索增强生成
ISO-RAG将知识图谱投影到双曲空间,预计算等周轮廓以剪枝虚假边,限制搜索空间。在多跳问答基准上,检索召回和精确匹配分别提升10%和4.3%,同时消除全局遍历的延迟瓶颈。
arXiv cs.AI61 天前
共 4 篇相关资讯,按重要度与时间排序,每 3 小时更新。
ISO-RAG将知识图谱投影到双曲空间,预计算等周轮廓以剪枝虚假边,限制搜索空间。在多跳问答基准上,检索召回和精确匹配分别提升10%和4.3%,同时消除全局遍历的延迟瓶颈。
论文观察到LLM数学推理呈树状结构,在少数高下一token熵的分支点展开,这类结构在双曲空间中嵌入失真远低于欧氏空间。作者提出Hyperbolic Entropy Steering(HEST),用仅以模型自身下一token熵为标签的轻量探针将隐藏状态嵌入庞加莱球,在熵超阈值时沿测地线调整状态。在Q…
研究在4.5万件美国专利上训练双曲与欧氏 VAE,发现双曲模型检索真正跨类别现有技术的比例高出52%(18.76% vs 12.34%)。论文还发现技术领域的分类广度与专利密度可预测方法效果,并开源含91项测试的完整实现,为跨分类码检索提供实用信号。
论文研究双曲空间中固定类原型多分类任务的黎曼梯度流隐式偏差,提出基于Busemann函数的分解框架。证明半径漂移系数符号决定轨迹趋向理想边界还是回归内部,且边界方向收敛到Busemann风险的临界点。为双曲表示学习中的边界饱和与近边界聚类现象提供严格渐近解释。