★ 2
REWIND：熵引导的推理轨迹修复方法发布
研究者提出 REWIND，一种无需训练的控制器，利用 token 熵动态定位推理错误并针对性重生成后缀。在 MATH500 上发现错误回答的平均 token 熵比正确回答高约 112%。跨三个模型家族、五个基准测试中，REWIND 比最强基线提升 0.51-10.00 个百分点。
arXiv NLP18 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者提出 REWIND，一种无需训练的控制器，利用 token 熵动态定位推理错误并针对性重生成后缀。在 MATH500 上发现错误回答的平均 token 熵比正确回答高约 112%。跨三个模型家族、五个基准测试中，REWIND 比最强基线提升 0.51-10.00 个百分点。
开发者发布 llm-gauze，一个兼容 OpenAI API 的透明网关，可检测并修复本地开源 LLM 的空响应、循环、格式错误、上下文溢出等问题。网关以 Docker 容器部署，记录每次交互并在客户端看到前完成补救。