★ 2
arXiv 论文:ELIDE 解码期删减冗余内容
论文质疑解码循环内的免训练控制器能否在保留内容的前提下删减 LLM 冗长回答,并证明熵门控 logits 处理器实质只是截断。作者提出 ELIDE 方法,仅在自然语言推理模型判定某段已被前文蕴含时才隐去该段。ELIDE 在三个模型族上优于等长截断,但人工审读发现 59% 的删减损害答案,且无自动指…
arXiv NLP9 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文质疑解码循环内的免训练控制器能否在保留内容的前提下删减 LLM 冗长回答,并证明熵门控 logits 处理器实质只是截断。作者提出 ELIDE 方法,仅在自然语言推理模型判定某段已被前文蕴含时才隐去该段。ELIDE 在三个模型族上优于等长截断,但人工审读发现 59% 的删减损害答案,且无自动指…