#上下文窗口

共 5 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 3

研究揭示全双工语音模型长对话崩溃机制

论文提出全双工长时程基准 FD-LHB,测试五款近期全双工语音模型,发现它们最终都会退化或耗尽上下文。作者定位到初始化锚点驱逐与自我重复两个机制,并提出初始化锚点固定与双工重复惩罚两项免重训修复,可显著减少长达一小时回放中的对话崩溃。

arXiv NLP6 天前
★ 3

Hugging Face 论文:LLM 长期记忆与 5000 万 token 窗口

一篇发布在 Hugging Face 的论文提出面向大模型的长期记忆机制,并支持高达 5000 万 token 的上下文窗口。该工作旨在突破现有 LLM 上下文长度限制,提升长文档与长期交互能力。

Hacker News – LLM23 天前
★ 3

长上下文窗口对AI生成文献综述的影响评估

研究评估了短长上下文设置下LLM生成的文献综述质量,发现AI生成综述需人工监督才能达到学术出版标准。上下文窗口增大虽能纳入更广信息,但加剧内容重复、遗漏关键工作等问题。

arXiv cs.AI65 天前
★ 2

开发者提出 DCA 架构,将 LLM 上下文复杂度从 O(N²) 降至 O(k)

开发者 Samama Tariq 在 Hacker News 上发布 Deferred Cognitive Architecture(DCA),用三层模块化框架替代单体执行,把机械 I/O 检索隔离到低功耗微流水线,并将重推理延后到预过滤数据送达之后。作者称该架构可将上下文计算复杂度从 O(N²)…

Hacker News – LLM1 天前
★ 2

研究对比工具发现架构:先规划还是先检索

论文研究工具增强型 LLM 智能体从大型 API 注册表中发现工具的两条路径:主流的「先检索后规划」(RtP)与替代方案「先规划后检索」(PtR)。PtR 让模型先生成抽象工具桩作为检索查询,以应对有限上下文窗口的限制。

Apple Machine Learning Research18 天前

这个主题的相关资产

相关公司Hugging Face1
相关术语上下文窗口

相关标签

上下文窗口 最新资讯与动态(5 篇) - 智讯 AI News