★ 3
arXiv 提出 LongCapHarness 框架,免数据合成与后训练提升长上下文推理
论文提出 LongCapHarness 框架,通过递归自我改进迭代修订能力原语、状态与控制逻辑,在不做数据合成与 LLM 后训练的前提下激发模型长上下文推理能力。在 Llama3-8B 上应用并迁移至 Qwen2.5-3B,在 HELMET 与 RULER 基准上大幅超越数据合成基线,开发成本不足…
arXiv NLP5 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 LongCapHarness 框架,通过递归自我改进迭代修订能力原语、状态与控制逻辑,在不做数据合成与 LLM 后训练的前提下激发模型长上下文推理能力。在 Llama3-8B 上应用并迁移至 Qwen2.5-3B,在 HELMET 与 RULER 基准上大幅超越数据合成基线,开发成本不足…