★ 3
研究揭示全双工语音模型长对话崩溃机制
论文提出全双工长时程基准 FD-LHB,测试五款近期全双工语音模型,发现它们最终都会退化或耗尽上下文。作者定位到初始化锚点驱逐与自我重复两个机制,并提出初始化锚点固定与双工重复惩罚两项免重训修复,可显著减少长达一小时回放中的对话崩溃。
arXiv NLP6 天前
共 5 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出全双工长时程基准 FD-LHB,测试五款近期全双工语音模型,发现它们最终都会退化或耗尽上下文。作者定位到初始化锚点驱逐与自我重复两个机制,并提出初始化锚点固定与双工重复惩罚两项免重训修复,可显著减少长达一小时回放中的对话崩溃。
一篇发布在 Hugging Face 的论文提出面向大模型的长期记忆机制,并支持高达 5000 万 token 的上下文窗口。该工作旨在突破现有 LLM 上下文长度限制,提升长文档与长期交互能力。
研究评估了短长上下文设置下LLM生成的文献综述质量,发现AI生成综述需人工监督才能达到学术出版标准。上下文窗口增大虽能纳入更广信息,但加剧内容重复、遗漏关键工作等问题。
开发者 Samama Tariq 在 Hacker News 上发布 Deferred Cognitive Architecture(DCA),用三层模块化框架替代单体执行,把机械 I/O 检索隔离到低功耗微流水线,并将重推理延后到预过滤数据送达之后。作者称该架构可将上下文计算复杂度从 O(N²)…
论文研究工具增强型 LLM 智能体从大型 API 注册表中发现工具的两条路径:主流的「先检索后规划」(RtP)与替代方案「先规划后检索」(PtR)。PtR 让模型先生成抽象工具桩作为检索查询,以应对有限上下文窗口的限制。